生成AIがオンラインでの対立を仲裁する可能性
生成AI（人工知能）は、オンライン上で争いを引き起こすことを目的とする悪意のある行為者にとって、革新的な兵器のように思えるかもしれない。ディープフェイクの映像は前例のない忠実さで公人になりすまし、大量の会話チャットボットは個別に訴えて対立を煽る。このようなキャンペーンを検知し、緩和する取り組みはまだ初期段階にある。
一方で、生成AIは組織内の対立を仲裁することもできるだろうか。筆者が同僚と行った研究では、チャットGPTなどの大規模言語モデルが、オンライン会話をより生産的なものにし、無礼さ（インシビリティ）を軽減し、社会的な隔たりを超えて困難な会話をする意欲を高めてくれることが示されている。
実際にすでに実用的なアプリケーションも存在している。コミュニティベースのソーシャルメディアプラットフォーム「ネクストドア」は、オンライン上の有害性を排除するために苦労してきたが、このような研究から触発されて無礼さを軽減するための大規模な取り組みを最近開始し、成功している。
多くの人々は対立をうまく切り抜けることが苦手だ。他者を説得する能力を過大評価したり、話がかみ合わなかったり、ストレスの多い議論自体を完全に避けたりする。しかし社会科学は対立仲裁について豊富な証拠を提供してきた。アクティブリスニングやパースペクティブテイキング（相手の視点で考えること）といったテクニックは、自分の言いたいことが伝わりやすくなる。しかしそのような訓練には時間と費用がかかり、多くの場合一般的には届かない。
『米国科学アカデミー紀要』（PNAS）に掲載された研究によれば、大規模言語モデル（LLM）が対立仲裁技術について広く教育できるかどうか調査された。この研究では銃規制について異なる意見を持つ多数の参加者が集められ、それぞれペアになって意見交換した。
プラットフォーム上で数回メッセージ交換後、一部参加者にはチャット相手へのメッセージ代替表現提案ポップアップが表示された。このメッセージはGPT-3によって生成されており、その内容は元々投稿された意見自体は変えずに表現だけ調整したものであった。参加者は、この提案されたメッセージ送信または無視する選択肢が与えられた。
結果としてGPT-3による言い換え表現使用時には会話がより生産的となりストレスも少なくなるとの報告。また別視点考慮意欲も高まった。ただし銃規制について即座に意見変更とはならず、それ自体良い結果とも言える。強力説得力持つAI悪用リスク防止にも繋げられるからだ。
この研究実施時点ではChatGPT公開1ヶ月前という背景あり社会関心高まる前段階。またGPT-3利用設定やや人為的問題解決焦点置いた側面強調必要。同様ツール現実世界適用効果次なる疑問浮上必然と言えるだろう。
今後さらに進化続ける生成AI技術活用範囲拡大期待膨らむ中、その可能性探求止む事無き展望描かれていると言えるだろう。
Source link
GIPHY App Key not set. Please check settings