サマリー
サムスンは先日開催されたUnpackedイベントで、同社の役員であるTM Roh氏とWon-Joon Choi氏の画像を生成AIツールを用いて作成しました。TM Roh氏の「劇的なイメチェン」や、Won-Joon Choi氏の「不気味なほど完璧で」「どうにも現実離れした」描写が、その人工的な見た目からすぐに注目を集めました。サムスンは後に、これらの役員ポートレートが「生成AIツールを使用して作成された」ものであり、特定のビジュアルストーリーテリング効果を狙ったものであることを認めました。この事実は、コンテンツの誤情報と戦い、その信憑性を検証することに特化した組織であるCAI（Content Authenticity Initiative）の創設メンバーであり、C2PA（Coalition for Content Provenance and Authenticity）の運営委員でもあるサムスンにとって、特に重要な時期に明らかになりました。
インサイト
サムスンのような大手テクノロジー企業、特にコンテンツの信頼性基準に深く関与している企業が、実在する役員のAI生成 likeness を使用したことは、重大な倫理的ジレンマを提示しています。これは、たとえ操作が巧妙であったり、美的目的のためであったりしても、企業のコミュニケーションにおける現実と虚構の境界を曖昧にします。この一件は、潜在的な偽善を浮き彫りにしています。ディープフェイクを特定し、それと戦うためのツールを提唱しながら、サムスン自身が生成AIを使用してリーダーシップに対する世間の認識を操作したのです。これは、透明性と開示に関する重要な疑問を投げかけます。企業のトップがAIによって操作された形で明示的な免責事項なしに提示されれば、世間の信頼を損ない、C2PAが擁護しようと努めるまさにその原則を揺るがすことになります。この事件は、生成AIの急速に進化する状況をナビゲートすることの内在的な課題を浮き彫りにしています。そこでは、一見無害に見えるアプリケーションでさえ、信頼性と真正性に広範な影響を及ぼす可能性があります。
影響
この一件はいくつかの影響を及ぼす可能性があります。まず、サムスンがコンテンツの信頼性基準にコミットしていることの信頼性を問うものであり、主要メンバーがその原則を一貫して適用していないと見なされれば、C2PAのより広範なミッションを弱体化させる可能性があります。次に、企業コミュニケーションにとって憂慮すべき前例を築きます。役員を含む個人のAI生成画像が、適切な開示なしに一般化し、公式情報源からのビジュアルメディアに対する世間の信頼を蝕む可能性があります。この状況は、生成AIを利用する企業、特に実在の人物を描写する際に、より明確なガイドラインと倫理的枠組みを求めています。C2PAや同様のイニシアチブにとって、この事件は、ディープフェイクや誤情報との戦いが、その提唱者自身の行動にも対処する必要があり、内部またはプロモーションコンテンツであっても透明性の重要性を強調する必要があるという厳しいリマインダーとなります。長期的な影響は、サムスンとより広範な業界がAI生成コンテンツの使用における説明責任と透明性の向上への要求にどのように応えるかにかかっています。
出典: https://www.theverge.com/tech/885727/samsung-execs-unpacked-ai-deepfake-photos-vs-reality-c2pa