OpenAI、イランのグループによる米大統領選への影響操作を阻止
2024年8月16日、人工知能企業OpenAIは、イランのグループがChatGPTを利用して米国の次期大統領選挙に影響を与えようとしていたことを明らかにしました。このグループは長文記事や短いコメントを生成し、それらをソーシャルメディアに投稿することで政治的な分断を促進しようとしました。
OpenAIの調査によれば、このグループはガザ紛争、オリンピック、米国大統領選挙などのテーマについてコンテンツを作成し、一部の記事やコメントは偽ニュースサイトにも掲載されました。これらのサイトは以前からイランによる情報操作活動に利用されているとされています。
OpenAIはプラットフォーム上で12件のTwitter（現在X）アカウントと1件のInstagramアカウントを特定し、関連するソーシャルメディア企業にも通報しました。しかしながら、これらのアカウントが生成したコンテンツはあまり広く拡散されていないようです。現在これらのアカウントはOpenAIのサービスにアクセスできなくなっており、今後も同様の試みが行われないよう監視が続けられています。
「影響力は少なかったものの、この事件は警戒心を持ち続ける必要性を再認識させる重要な事例です」と、OpenAI研究チームリーダーのベン・ニモ氏は述べています。
Washington Postの記事によれば、この報告書はマイクロソフトやGoogleによる調査とも一致しており、イランが米国選挙に介入しようとする試みが存在することが示されています。今年5月にはOpenAIからも政府関係者がChatGPTを使ってプロパガンダを生成しているとの発表があり、その中にはイランだけでなくロシア、中国、イスラエルも含まれていました。
さらに8月初旬にはマイクロソフトからStorm-2035という名で呼ばれる作戦について報告がありました。この作戦では偽ニュースサイト4つが使用されていました。しかしながら、多くの場合、このような情報操作キャンペーンはソーシャルメディアユーザー間で大きな影響力を持たないことも確認されています。それでもなお、更なる秘密裏なキャンペーンが存在する可能性も否定できません。
今年世界中で多数の選挙が予定されている中、民主主義支持者や政治家、そして人工知能研究者たちはこの技術によるプロパガンダ生成能力について懸念しています。現時点では外国政府が米国有権者に実際的な影響を与えている証拠はありません。
出典：Washington Post
すべての記事はこちら: ERT News
最新ニュースはこちら: Google ニュース
Facebookページ: ERT News Facebook
Twitter公式: ERT News Twitter
YouTubeチャンネル: ERT News YouTube
Viber: ERT News Viber
Source link
GIPHY App Key not set. Please check settings