炎上リスクをAIで判定。企業のSNS運用、燃えちゃうその前に

ネット上で「傷つく人・傷つける人」を少しでも減らしたい。

——はじめに、弁護士ドットコムと、「AI炎上チェッカー」について教えてください。

塚本慎太郎氏（以下／塚本氏）：「2005年創業の弁護士ドットコム株式会社は、今年で20周年を迎えます。「プロフェッショナルテックで次の常識を作る」をミッションに、法律や専門家の知見をテクノロジーの力で広く届け、法律をより身近なものにすることを目指しています。具体的なサービスとしては、法律相談ポータルサイト『弁護士ドットコム』や、税務分野の専門家紹介サイト『税理士ドットコム』、契約マネジメントプラットフォーム『クラウドサイン』などを提供しています。

新たなサービスとなる『AI炎上チェッカー』は、SNSなどに投稿する前の文章を生成AIで解析し、炎上リスクを判定することのできるツールとして誕生しました。投稿文を入力すると『攻撃性』『差別性』『誤解を招く表現』といった、３つの観点からリスクを評価し、問題があればより安全な表現案を提示します。

——想定するユーザーとは？

塚本氏：「中心となるのは、企業の広報・PR・法務担当の方々ですが、政治家や、芸能人、スポーツ選手、インフルエンサー、広告代理店など、発言が注目されやすい方々も含まれると思います。また、個人の利用も想定しています。サービスはモバイル向けアプリとして提供する予定ですので、将来的にはSNSだけでなく、パブリックな場で情報を発信するすべての方にお使いいただけるサービスとしていきたいと考えています。意識の高い方はすでにChatGPTなどを駆使して自己防衛している方も多いと思いますが、当サービスを通じて発信の事前チェックのハードルをさらに下げ、ネット上で『傷つく人』『傷つける人』を少しでも減らしていきたいと考えています」

——クローズドβテストを行っているそうですが、反響はいかがですか？

塚本氏：「2025年の4月にクローズドβ版を展開して以来、大手企業の広報・PR部門、プロスポーツチーム、自治体や大学、政治家など、想定どおりの層からの多数のお申込みをいただいています。『こういうツールを待っていた』『炎上抑止に役立ちそう』といったポジティブなお声が多く、投稿前に“ひと呼吸置く”行動変容ツールとして、高く評価いただけました。一方で、『業界特有の表現に対応してほしい』『最新トレンドをもっと反映してほしい』といった要望も届いており、今後の改良ポイントとして検討中です」

——そもそもこうしたサービスの誕生のきっかけは、何だったのでしょうか？

塚本氏：「弁護士ドットコムが創業20周年の節目を迎えるにあたり、『法律トラブルに遭う人をさらに減らす』という使命にもう一歩踏み込むべく、『AI炎上チェッカー』の開発に着手しました。

社内研究機関のプロフェッショナル総研の調査によると、誹謗中傷を行った（行ったと判断された）人の約半数が『自分の発言が誹謗中傷に当たるとは認識していなかった』と回答しています。さらに、過去10年間で、誹謗中傷に関する法律相談は約３倍に増加しています。なかには大手掲示板や動画共有サービスのコメント欄などに不用意な投稿をしてしまい、加害者側として相談に訪れるケースも増えています。つまり“気づかないまま他者を傷つけ、後になって法的リスクに直面する”事例が社会課題として顕在化しているわけです。

さらに、2025年４月には『情報流通プラットフォーム対処法』が施行され、SNS事業者に対し誹謗中傷に該当する投稿への迅速な対応が義務化されました。これからはプラットフォーム側だけでなく、利用者一人ひとりにも、オンライン発信の責任がより強く問われる時代が到来します。

こうした状況を踏まえ、たった一度の失言で人生を棒に振らせない、というコンセプトのもと、投稿前にリスクを検知し未然にトラブルを防ぐツールとしてAI炎上チェッカーを開発しました」

炎上リスクを最前線で食い止める“一呼吸”を促す

——最近の企業アカウントの炎上には、どういったケースが多いのでしょうか？

新志有裕氏（以下／新志氏）：「企業の公式アカウントの炎上はたびたびありますが、今やそれは珍しいケースかと思います。事前に対策が打たれていることがほとんどです。

むしろ危ないのは、その周辺にいる“半・公式”の発信者です。たとえば、企業の広報担当や採用担当が、実名・顔出し・社名付きで個人アカウントを運用しているケースなど。社内の誰にもチェックされないまま、本人の判断だけで投稿してしまう。そうすると、ちょっとした言葉選びのミスが大きな炎上を招いてしまうケースも。これが今、いちばんリスクの高いパターンだと思っています」

——具体的な例はありますか？

新志氏：例えば、某企業の広報担当者が、テレビ番組の放送前に『IPO（新規株式公開）前から仕込んできました』と、SNSでコメントしたケースです。“仕込む”という言葉は、広告業界ではお金を払って取り上げてもらう、いわゆるステマ的な行為を示すこともあり、それが原因で炎上したんですね。はじめは小さなボヤでも、対応のまずさと外部からの追い打ちによって炎上の勢いは拡大し、最後は社長が謝罪する事態になりました。

興味深いのは、この件をAI炎上チェッカーに入力してみると、誤解を招く表現という点で炎上マーク（危険度）が1つ表示されるんですね。大炎上とまではいかなくても『注意したほうがいい』と指摘してくれるわけです。このように、担当者が個人で思わず発信してしまうリスクの高い文言を、AI炎上チェッカーでは事前に検知できるわけです」

——AI炎上チェッカーのようなサービスを取り入れていれば防げた炎上だったのかもしれませんね。

新志氏：「広報部門であれば社内のチェックが機能していることが多いのですが、採用担当、特にベンチャー企業のリクルーターのように、自社のブランディング目的で頻繁に個人発信を行う立場は注意が必要です。パーソナルな情報を絡めたメッセージを次つぎに発信するなかで、思わぬ炎上が起こり、結果的に企業ブランドを傷つけてしまうケースは少なくありません。そもそもSNSアカウントを把握していないとか、把握していても野放し状態という企業も多いですから」

——世間の潮流として炎上対策の必要性は企業のあいだでも高まっていると思いますが、ニーズを感じられている部分はありますか？

塚本氏：「炎上対策への関心は確実に高まっているといえます。クローズドβテストへの参加を打診する際、各社に『炎上対策の体制はどこまで整えていますか』とヒアリングすると、大半の企業が一定の取り組みを行っていらっしゃいました。ただし、その体制は部分的で、全プロセスを網羅的に運用しているケースは決して多くありません。

炎上防止策は『①予防（アカウントの把握や社内研修）』『②監視（リアルタイムモニタリングと初動体制）』『③対応（発生時の迅速な謝罪・是正）』の三段階に大別できます。実際には、先述のように自社アカウントの運用実態を把握していないような企業も散見され、ガバナンス上の問題点も見受けられます。

そうしたなかでAI炎上チェッカーは『根本リスクを最前線で食い止めるツール』として、まずは投稿前の“最後の一呼吸”のために活用していただくことを提案しています。これにより、最も危険度の高い初動段階でのミスを減らし、企業全体のリスク管理を強化できると考えています」

——AI炎上チェッカーは今後、どのような方の役に立つと思われますか？

塚本氏：「発言の影響力がある方には業種職種を問わずお使いいただきたいと思っていますし、学生さんや就活生の方のお役にも立てると考えています。近年、人事担当がSNSをチェックしているというのはよく聞く話です。ちょっとした出来心からの発言によって人生を台無しにしてしまわないためにも、AI炎上チェッカーで投稿前の一呼吸というのを普及させていけたら良いなと思っています」

今後は利用者の属性に合わせた細やかな文章チェックにも対応

——万が一炎上してしまった場合、役立つ機能とは？

塚本氏：「今後、万一トラブルが発生した場合でも、利用者が安心してリスク対応に臨める仕組みとして、当社のオンライン法律相談サービス『みんなの法律相談』の組み込みも検討しています。

さらに、機能拡充を進めていこうと考えています。例えば、発言者の属性やファン層、業界特有の文脈まで加味できる仕組みが重要であることが、利用者ヒアリングから明らかになっています。政治家とVTuber、アイドルでは炎上のパターンが異なり、同じ言葉でも届き方や届く人がまったく変わります。こうした差異を考慮できるような、より的確なリスク指摘と改善提案ができるツールへ進化させたいと考えています。」

——サービスの進化において、今後AIの発展に期待されることはありますか？

古川一輝氏（以下／古川氏）：「当社のAI戦略の中核にあるのが、2023年のChatGPT登場に合わせて発表した『リーガルブレイン構想』です。膨大な法令・判例・ガイドラインなどの自社データと、弁護士をはじめとする専門家の知見、生成AIを掛け合わせ、これまでにない“次世代の法律体験”を創出することが狙いです。

一方で、生成AIは日進月歩で進化し続けています。こうした環境変化に対応するため、私たちは『どのチャネルで、どの体験を、どの粒度で届けるか』を常にアップデートしながら、弁護士や企業法務部など利用者ごとのニーズに合ったサービスを順次リリースしていきたいという風に考えています。先日、AI基盤技術である「Legal Brain 1.0」を搭載したリーガル特化型AIエージェント「Legal Brain エージェント」を発表しました。まずは法務部や弁護士の皆様に向けたAIサービスを展開し、企業法務や法律事務所の課題解決の助けとなれればと考えています」

「リーガルの民主化」を推進するために、人間とAIの共存を目指す

——今後のAI時代に備え、法曹業界のサービスとしてどのような改革や対応策を検討されていますか？

古川氏：「社内ではすでに議論を重ねています。リーガルブレイン構想では、法令・判例・ガイドライン・書籍など多岐にわたるデータを統合し、生成AIと組み合わせることで、従来にないリーガルサービスを実現しようとしています。この仕組みは弁護士や企業の法務部門向けにとどまらず、事業部門や一般消費者向けにも展開できる、大きな拡張性があると考えています。

一方、弁護士法の規定により、弁護士資格を持たない者が有償で法律サービスを提供することは原則認められていません。そのため、法的制約がサービス展開の壁となる場面も少なくないと思っています。こうした課題を乗り越え、時代に即した形で法律をもっと身近にするために、私たちは『リーガルの民主化』を掲げ、段階的にサービスを広げていく方針です」

——AI活用を検討する企業が留意すべきポイントについて、アドバイスをお願いします。

塚本氏：「弁護士ドットコムとして強調したいのは、技術が進むほど“人間の判断力と倫理観”の重要性が、むしろ高まるという点です。SNSをはじめとしたオンラインのコミュニケーションは年々複雑になり、AIだけで完結できない場面が増えています。実際、AI炎上チェッカーが評価されている理由も『投稿前に一呼吸おかせる』というシンプルな行動変容を促す仕組みが、人間の最終判断を支えているからです。AIは膨大なテキストを瞬時に解析できますが、最終的に内容を咀嚼し、適切に判断するのは利用者自身。AIと人が役割を補完し合うハイブリッドモデルこそ、今後の最適解だと考えています。この『どこまでをAIが担い、どこからを人が担うか』という線引きこそ、リーガル領域の大きなテーマです。法的専門性とAI技術の両方を持つ弁護士ドットコムとしてこの課題に正面から取り組み、最適なバランスを追求していきます」

新志氏：「私たちは、弁護士や税理士の立場からもAI時代の『専門家の役割』を注視しています。AIが多くを自動化できるようになるほど、『人間の弁護士は何を担うのか』を考え直さないといけなくなります。例えば弁護士の仕事でいうと、裁判を起こすための理屈が立っていて、AIで処理できそうなものばかりではなく、依頼者が感情的になって裁判を起こそうとするものも少なくありません。企業のトップでも『許せない』という思いだけで訴えを起こそうとするケースがあります。そのような感情に向き合うためには、共感や説得といった“人間的なプロセス”が不可欠です。AIが使われるようになればなるほど、人間の感情と向き合うことの重要性が際立ちます。これは今後、AIに関連した業界がエキサイティングな展開を作っていく上で欠かせないものになっていくのではないでしょうか」

弁護士ドットコム株式会社 – https://www.bengo4.com/corporate/