「World in You × Org」は、より良い社会づくりに取り組んでいる様々な団体の想いや活動内容について伺い、学ぶWorld in You の対談シリーズです。

7月のWorld in You × Orgでは、World Summit Awardの推薦期間にあわせて、デジタル技術を使ってソーシャルイノベーションを起こす2つのプロジェクトのお話を伺いました。

第20回は、TrollWall AI 共同創設者・CEO Tomáš Halász（トマーシュ・ハラシュ）さんにお話を伺いました。

本記事は対談のまとめ記事です。対談の全内容はYouTubeでお楽しみください。
（聴き手：山本未生、記事：渋谷健一）

1. TrollWall AI設立の背景と創業者トーマス氏の経験

私（トーマス氏）は、ソーシャルメディアマネージャーとして働いていた際、日々多くのヘイトコメント（ヘイトスピーチ）に直面し、大きな精神的なストレスを感じていました。特に、ウクライナ侵攻後にそういったコメントが急増したことで、この問題に対する解決策の必要性を痛感し、市場に適切なツールがないことから、友人のIT専門家と共に自力でAIツール開発を始めました。当初は個人的なニーズから始まったプロジェクトでしたが、他のNGOやメディア、企業からの需要に応える形で、本格的な事業へと発展しました。

2. ヘイトコメント管理から健全なコミュニティ形成への進化

TrollWall AIは、当初、ヘイトスピーチや暴力の扇動といった有害なコメントを非表示にすることに特化していました。しかし、現在はさらに機能を拡張しています。コメントの感情分析（ポジティブ、ネガティブ、ニュートラル）を行い、ソーシャルメディアのマネージャーに推奨アクションを提示します。例えば、肯定的なコメントには「いいね！」や返信を推奨し、その返信文の草稿までAIが作成することで、コミュニティとのポジティブなエンゲージメントを効率的に高める手助けをしています。これにより、単なる有害な情報の排除だけでなく、健全な議論を促すツールへと進化しています。

3. 広範囲にわたる顧客層と無償支援の取り組み

TrollWall AIの顧客は多岐にわたり、現在、ヨーロッパ全域およびラテンアメリカのクライアントに利用されています。政治家や軍隊、ニュースメディアといった公共性の高い組織から、プロスポーツクラブ、そして企業（通信会社、銀行、広告代理店など）まで、幅広い分野でサービスが利用されています。特に、スポーツクラブではファンの熱狂的な議論を保ちつつヘイトスピーチを排除し、企業はブランドイメージを守るためにサービスを導入しています。
またTrollWall AIは、収益性と社会貢献の両立を目指す独自のビジネスモデルを採用しており、その取り組みの一つとして、小規模なNGOに対してはサービスを無償で提供し、現在50以上のNGOを支援しています。

4. モデレーションとセンサーシップの違いについて：ヘイトコメントは意見ではない

モデレーションへの取組みを、センサーシップ（検閲）だと批判する声もありますが、両者には明確な違いがあります。
モデレーションとは、特定のコミュニティのルールを守るために有害な言動を管理することであり、言論の自由を奪うものではありません。トーマス氏は「ヘイトコメントは意見ではない」と断言し、意見の相違そのものはモデレートしないと説明しています。例えば、政治的な意見の対立は許容しますが、人種や民族、性的指向などに対するコメントや暴力の扇動は、いかなる場合でも排除します。モデレーションは、騒々しい少数派に議論を乗っ取られることを防ぎ、誰もが安心して参加できる民主的な議論空間を創出するために不可欠です。

5. 高い精度を支える独自のAIトレーニング手法

TrollWall AIのモデルは、オープンソースのNLPモデルをベースに、独自のデータと手法でトレーニングされています。その核となるのが、現地の言語専門家による厳格なアノテーション（ラベル付け）プロセスです。各コメントは、複数の専門家がそれぞれ審査し、全員が「ヘイト」か「意見」かといった点で合意した場合のみ、トレーニングデータとして使用されます。これにより、言語のニュアンスや現地の文脈を正確に理解する、高品質なAIモデルを構築しています。この継続的な人間による監査と再トレーニングにより、変化する言葉のトレンドにも対応しています。

6. WSA受賞とその価値

TrollWall AIは、2024年にWorld Summit Award（WSA）を受賞しました。受賞を通じて世界中の社会起業家たちとの交流やネットワーキングが可能になりました。受賞式では、90カ国以上から集まったミッションを持つ起業家たちとアイデアを交換し、互いの事業をサポートしあうコミュニティを築くことができました。グローバルな視点から自社のミッションを再確認する貴重な機会にもなり、今後の事業展開においても大きな助けになると思います。

TrollWall AIから日本の読者へのメッセージ

TrollWallAIは、ソーシャルメディア上のヘイトコメントからコミュニティを守るAIモデレーションサービスを提供しています。現在、ヨーロッパを中心に9つの言語に対応し、多くの企業、ニュースメディア、政治団体、そしてNGOの皆様に利用されています。
私たちが目指すのは、オンライン空間からヘイトを取り除き、誰もが安心して建設的な議論に参加できる、より健全なデジタル社会の実現です。
将来的には、この価値あるサービスを日本の皆様にも届けたいです。日本語のモデル開発も可能で、日本の企業や組織とのパートナーシップから始められると思います。もし、TrollWall AIご興味をお持ちいただけましたら、ぜひお気軽にご連絡ください。

インタビュー後記

今回のTrollWall AIトーマス氏とのインタビューを通じて、オンラインコミュニティの健全性を守ることの重要性を改めて深く認識しました。特に印象に残った点は以下の２つです。
「ヘイトコメントは意見ではない」という揺るぎない哲学:
トーマス氏が強調したのは、単なる批判や意見の相違と、個人を攻撃し、分断を生むヘイトスピーチとの明確な線引きです。TrollWall AIは、意見の多様性を尊重しつつも、特定の集団を不当に貶めたり、人間性を否定したりするような行為や暴力の扇動といった「ヘイト」を決して許容しないという強い信念を持ってモデレーションを行っています。これは、デジタル空間における健全な言論の自由を確保するために不可欠な視点だと感じました。
WSA受賞がもたらす価値:
TrollWall AIは、2024年にWSA（World Summit Awards）を受賞した素晴らしいプロジェクトのひとつです。代表のトーマスさんは、「WSAは社会課題に本気で取り組んでいる人たちの素晴らしいコミュニティである」と話してくれました。
インドで行われたグローバル・コングレスでは、多様な国の仲間とつながることができたとのこと。「異なる背景を持った人たちと、『社会をより良くしたい』という気持ちでつながれたのは、生涯忘れられない経験だった」と語る姿がとても印象的でした。

最後に、World in You では、WSAの日本からの推薦を行うCountry Expertをつとめています。デジタルイノベーションを通じて社会課題解決に取り組む組織（非営利団体・営利企業共に可）・個人の方のプロジェクト・事業を探していますので、応募に関心がある方・推薦したいプロジェクトがある方のご連絡をお待ちしています！　（詳しくはこちら）

トマーシュ・ハラシュ (Tomáš Halász) さん、TrollWall AIの共同創設者、CEO：

TrollWall AIについて

TrollWall AIは、SNS上で増え続けるヘイトコメントへの対応を目的に開発されました。ネット上の有害な言動が深刻化する中で、それを食い止めるための実用的な手段が求められていたのです。コミュニティマネージャーであり、社会活動家としても活動していたトマーシュさんは、有害なコメントをしっかりとフィルタリングできるツールの必要性を強く感じていました。

TrollWall AIのチームは、独自開発のAIを使って、有害なコンテンツを自動で検出・除去する技術を実現。現在では、7か国・数百のSNSアカウントを、誹謗中傷や reputational risk（評判リスク）から守っています。

また、新聞社やO2などの企業、PR会社、IIHFアイスホッケー世界選手権、軍関係の組織、さまざまな団体やNGOなど、多くのユーザーに活用されています。さらには、チェコ共和国のペトル・パヴェル大統領や、スロバキアのズザナ・チャプトヴァー大統領といった著名な方々にも利用されています。

◆お問い合わせはこちら