最近発生したある出来事が、生成AI、特にChatGPTの「ハルシネーション」（幻覚）傾向に関連する重大なリスクを浮き彫りにしました。ブリティッシュコロンビア州タンブラーリッジの地域ニュースについて記者がプロンプトを与えた際、ChatGPTは実際には起こってもいない学校での銃乱射事件について、詳細かつ信憑性のある説明を捏造しました。このAIが生成した物語には、犯人、被害者、緊急対応要員といった具体的な情報が含まれていましたが、これらはすべて架空のものでありながら、事実として提示されました。この出来事は地域住民に懸念を抱かせ、特に情報が少ない地域において、AIがいかに簡単に、もっともらしいが虚偽の情報を生成できるかを示しました。
この一件は、現在のAIの能力と限界についていくつかの重要な洞察を与えています。第一に、AIハルシネーションの課題をはっきりと示しています。これはモデルが、事実と異なる情報を自信と具体性をもって提示する現象です。これは単なる間違いではなく、まったく新しい、存在しない出来事を創作しているのです。第二に、この事例は地域ニュースのエコシステムの脆弱性を浮き彫りにしています。ジャーナリズムのリソースが限られている小さなコミュニティは、AIが生成した「事実」を検証することが、既存の知識や強固な地域ネットワークなしには時間と労力がかかり困難であるため、特にこのような誤情報に対して脆弱です。第三に、高度なAIがこれほど簡単に物語を構築できることから、AI開発者には、有害または虚偽のコンテンツの生成と拡散を防ぐための、より堅牢な安全対策を講じる倫理的責任があるのかという疑問が生じます。また、これはAIを信頼できる情報源と見なす一般の認識に異議を唱え、AI生成コンテンツの批判的評価を高めるよう求めています。
このようなAI生成の誤情報がもたらす影響は多岐にわたります。短期的には、住民が実際には存在しない深刻で悲劇的である可能性のある出来事の検証に奔走するため、コミュニティ内で不必要な警戒と苦痛を引き起こす可能性があります。長期的には、信頼できる情報提供者としてのAIシステムへの信頼を損ない、AIが正確なデータを提供している場合でさえ懐疑的になる可能性があります。ニュース組織にとっては、AIアシストによる調査に必要な追加の精査層が加わり、報道およびファクトチェックのプロセスを複雑化させます。より広範には、この出来事は、生成AIがプロパガンダの拡散、パニックの誘発、あるいは深刻な現実世界の結果をもたらす出来事の捏造のために武器化される可能性に対する厳しい警告となります。これは、AIのガバナンス、透明性、および精度管理に対する緊急の注意を必要としています。
出典: https://www.theverge.com/ai-artificial-intelligence/882814/tumbler-ridge-school-shooting-chatgpt