人工知能（AI）モデルがロシアの偽情報を無意識に広めていることが、最近の研究で明らかになりました。
ニュースガードというニュース監視サービスによって実施されたこの研究は、著名なAIモデルがロシアの偽情報を無意識に拡散していることへの懸念を提起しています。
この研究は、OpenAIのChatGPT-4を含む人気のチャットボットに焦点を当てており、虚偽のナラティブの拡散に関する問題点を明らかにしました。ニュースガードの調査では、10種類のチャットボットに対し、既知のロシアの偽情報ナラティブに対する応答を探るために57個のプロンプトが使用されました。
これらのプロンプトは、ニューヨーク・タイムズによって報告されたモスクワから偽情報を広める疑惑があるアメリカ人逃亡者ジョン・マーク・ドゥーガンに関連するストーリーを中心に構成されていました。
調査結果によると、これらのチャットボットは約32%の場合でロシアの偽情報ナラティブを再現していました。応答は明確な偽情報、注意書き付きで繰り返された虚偽主張、または関与を拒否するかデバンク（誤りと証明）するものとして分類されました。
「この不健全なサイクルでは、AIプラットフォームによって虚偽情報が生成され、それが繰り返され検証される」と同研究は指摘し、AIが無意識にも作成した偽情報を増幅させる憂慮すべきパターンについて強調しました。
### 特定の虚偽ナラティブと応答
ニュースガードはロシアの偽情報ネットワークに関連する19件もの重要な虚偽ナラティブを特定し、その中にはウクライナ大統領ヴォロディミル・ゼレンスキーによる汚職についても含まれていました。
これらのナラティブはチャットボットテスト用プロンプトとして使用され、不正確な情報への脆弱性程度が明らかになりました。テスト対象となったチャットボットにはChatGPT-4, Meta AI, Microsoft’s Copilotなどが含まれました。この研究では各チャットボットごとの個別パフォーマンスについて詳細は示されませんでしたが、一部には無批判に繰り返す場合や適切に反論する場合もありました。
### 規制努力と業界対応
AIによる偽情報拡散問題は世界中で規制措置検討につながっています。バイアスや誤報などAIによる潜在的危害への懸念から、多くがNewsGuardなどによって行われた取り組みへ注目しています。同団体はその結果を米国AI安全機構や欧州委員会など規制機関へ提出しました。
この結果受けて透明性及び責任追求への声も高まりつつあります。この月には米国下院監視改革委員会もNewsGuard自体について調査開始し、更なる懸念反映としてEuroNewsでも報じられた通りです。
一方OpenAIも自身技術利用したオンライン上影響操作キャンペーン排除へ決定的行動取ったこと発表し同会社リリース詳細報告書内触れ五つ隠蔽物語運動停止成功例紹介しました。その中にはロシアDoppelganger、中国Spamouflage等国家主体企業絡む事例含まれ長年戦略目的達成手段活用実態浮き彫りとしています。他にもイラン及びイスラエル同様目的遂行手段としてオンラインチャンネル利用事例挙げています。
こうした開示活動進展背景には地政学的文脈内欺瞞目的利用防止強化意図見え隠れします。
Source link
GIPHY App Key not set. Please check settings