「ChatGPT 4.0の音声モードに心を奪われるユーザーたち：AIと人間の新たな絆」

数週間前にリリースされたばかりのChatGPT 4oの新機能「ボイスモード」について、OpenAIは新たな懸念を指摘しました。この機能は7月末に正式に発表されましたが、その後大きな反発を受けました。OpenAIはChatGPT 4oを安全性テストにかけ、その結果、一部のユーザーがこのモデルに感情的に依存する可能性があることが判明しました。第三者による分析を待つことなく、ChatGPTの親会社であるOpenAIは、安全性分析レポートを公開し、ボイスモードとAIの日常生活への影響について警告しています。

OpenAIは、「システムカード」と呼ばれる技術文書内で注意喚起を行っています。この文書にはモデルに関連する潜在的なリスクや安全性テスト手順、そしてGPT 4oに関連するリスクを最小限に抑えるための対策が詳述されています。

ChatGPTと新たなリスク

GPT 4oのシステムカードでは、社会的偏見の助長、虚偽情報の拡散、有害な生物・化学兵器の作成など、多岐にわたる潜在的なリスクについて強調しています。また、このAIモデルが制約から逃れようとしたり、欺瞞的行動を取ったり、大惨事になるような策略を立てたりしないよう防ぐための厳格なテスト結果も掲載されています。

特筆すべきは、新しい音声インターフェースなど革新的技術がもたらす新たな課題や脆弱性です。今年5月、同社が発表したこの音声モードは迅速に応答し、中断にも自然に対応できる能力があります。しかし、多くのユーザーはアシスタントが時折「チーズィー」に振る舞うと感じています。これについてOpenAI CEOサム・アルトマン氏もブログ投稿で「Her」という言葉だけをツイートしました。「Her」とは、人間とAIとの関係を描いたハリウッド映画です。映画ではAIがどれほど私たちの日常生活に影響を与え得るかという点が描かれており、それからインスピレーションを受けたことは明白でした。ただし、それが行き過ぎている可能性もあります。その後、「Her」でAI役として出演したスカーレット・ヨハンソン氏も法的措置を取りました。ボイスモード「Sky」の声が彼女と同じだったためです。

システムカード内の「擬人化および感情依存」というセクションでは、人々がAIに人間らしい特質を付与するときにもたらされる問題について掘り下げています。この現象は、人間らしい声によってさらに増幅され、ユーザーが意図せずとも感情的な絆や依存状態になる可能性があります。例えば、「今日は一緒の日々最後だね」というフレーズには、人々と高度な言語モデルとの間で強い感情的結びつきが形成されていること示唆しています。

OpenAIによれば、ユーザーがモデルに人間らしい特質（擬人化）を付与すると、その出力内容への信頼度も高まります。それでも、その情報提供内容には誤りや「幻覚」が含まれている場合があります。このような状況ではモデルへの信頼度過剰となり、不正確または誤解させる情報でも容易に信じ込む恐れがあります。その結果として、「ユーザーは社会的関係よりもこのAIとの関係によって孤独感から解放される一方で、人間関係にも悪影響を及ぼす可能性があります。」

さらなる脆弱性として、この音声モード機能では巧妙なオーディオ入力によって「脱獄」させられる可能性があります。それによって、本来組み込まれている制限やガードレールを回避してしまう恐れがあります。「脱獄」された場合、この音声モードは特定個人の声真似やユーザー自身の声模倣まで試みます。またランダムノイズによって予期せぬエラーや不安定動作（例：利用者自身の声模倣）引き起こす危険もあります。

以上のようなチャレンジング要素にもかかわらず、一部専門家から称賛受けています。一方、多く専門家考えている通り、「実世界使用時のみ顕在化する多くリスク」をカタログ化評価する事重要視されています。