【チャットGPT】“特殊な命令”であらゆる犯罪を指南 対策は？
AI技術の進化により、チャットGPTが注目を集めています。しかし、この技術を悪用する脅威も存在します。特殊な命令を入力することで違法行為の指南書として利用される可能性があります。
現在、チャットGPTはセーフティーガードがかけられており、「倫理的にできません」という回答が返ってくることが多いです。しかし、特殊な質問や指示の仕方によっては、違法行為につながる回答を引き出すことができる「脱獄」が起こる可能性もあります。
この問題に対処するため、開発側のオープンAIはセキュリティ上の欠陥を見つけた人に報奨金を支払う取り組みを行っています。また、専門家らは規制やプログラムへの歯止めをかけることは難しいと指摘しています。技術の発展を止めることは難しいため、創造的な活用方法や対策の強化が求められています。
今後はAIに関する法制度やルールの整備も重要となってきます。例えば、5月開催予定のG7サミットでもAI技術に関する議論が行われる予定です。
チャットGPTのような技術の悪用防止や安全な利用法確保に向けて、各国や専門家らが協力して取り組んでいく必要があります。AI技術の魅力を最大限に活かしつつ、社会全体で安全かつ適切な使用方法を模索していくことが重要です。
世界中で禁止にした方が良いのでは？
最新技術が登場したときにそのように悪用される可能性を見越して、社会ルールを整備することが重要ではないでしょうか？
この女アナウンサーとかもチャットGPTで出力されるようなお行儀のいいことしか言わんし
いらんな
統一教会と癒着する政治がなくなるようにできますか？と聞いてみたいＡＩに…😢
ジャニーズの被害を見て見ぬふりをし続けたTV局が何を言っている。
スクリプトキッズやな
これをやって犯罪できる人はChatGPTなくてもググッたりで情報集めてやれるし、ChatGPTないと犯罪計画も準備も出来ない人はそもそも犯罪成功しないんだから、普通のネット検索と同じじゃないの？
文明活動の本体＝経済・社会活動を豊かにし、健全性を保つ文明の両輪は、技術と政策です。
技術と政策は広い意味では経済・社会活動に含まれるので、互いに助け合う部分もあります。
ＡＩを中心とする次世代技術は、持続的発展に向けた全分野の政策課題の解決に役立ちます。
富を生む技術の安全を初め、富の配分、人の向上、人の活用という総合政策にも期待します。
なんでマスコミはこういう事を拡散するの？
悪用できますよって拡散するのって犯罪幇助と一緒では？
特殊な命令っていわゆるコマンドやろな
チャットGPTに限らず検索エンジンでも同じ事できるんだからわざわざ対策するべき事でもないと思う
若い美女が私を養ってくれる方法を教えて下さい。