ドイツ、偽のAIホロコースト画像拡散でソーシャルプラットフォームに警告

ドイツは、虚偽のAIホロコースト画像の拡散についてソーシャルメディアプラットフォームに警告しました。政府とホロコースト記念機関は、歴史を歪曲し軽視していると主張する偽画像の拡散を止めるよう、ソーシャルメディアプラットフォームに要請しました。

強制収容所記念施設と資料センターは最近の書簡で懸念を表明し、第二次世界大戦中にドイツでナチスが600万人以上のユダヤ人を殺害したことに関する、いわゆるAIスロップまたは偽造画像の急増を批判しました。これらの画像には、強制収容所の収容者とその解放者の会合や、有刺鉄線の柵の後ろにいる子供たちなど、創作された出来事の感情的なイラストが含まれています。

ドイツは虚偽のAIホロコースト画像の拡散を阻止したい

組織から送られた書簡の中で、AI生成コンテンツは、遥か昔に起きた重大な出来事を軽視することで歴史を歪曲していると指摘しました。彼らは、このような画像が、本物の歴史的文書に対するユーザー間の不信感を助長する可能性があると述べました。ドイツの文化・メディア担当国務大臣であるヴォルフラム・ワイマーは、この件で記念機関が取った措置と努力を支持すると述べ、それが正しい措置であることを明らかにしました。

ヴォルフラムはまた、古代の出来事に関するAI生成画像に印を付け、必要な場合はソーシャルメディアプラットフォームから削除するという彼らの決定を支持すると述べました。彼は、それがナチスドイツの恐怖体制下で殺害され迫害された数百万人の人々への敬意の問題であると述べました。記念機関の書簡によると、画像の作成者は、オンラインで注目を集め、お金を稼ぐためにそれを使用しているようだと指摘しました。

組織はまた、加害者は事実を薄め、被害者と加害者の役割を入れ替え、修正主義的な物語を広めることも部分的に意図していると述べました。これらの機関には、ユダヤ人だけでなく、ロマやシンティの人々を含む他の人々が殺害されたベルゼン、ブーヘンヴァルト、ダッハウ、その他の強制収容所の記念センターが含まれています。彼らは、ユーザーからの報告を待つのではなく、ホロコーストに関する偽のAI画像に対して積極的に行動するよう、ソーシャルメディアプラットフォームに求めました。

ホロコースト団体はAI生成画像にラベル付けを要求

さらに、彼らはプラットフォームに対して明確にラベル付けするよう求めました。これにより、画像を生成したユーザーがそれを収益化できなくなると考えているからです。偽のテキスト、画像、または動画を含む低品質のAIスロップの拡散は、多くの専門家の間で警鐘を鳴らしています。彼らは、それが情報環境を汚染し、ユーザーが真実と虚偽を区別することを困難にすると考えています。この事件は、AI企業、特にチャットボットGrokを所有するイーロン・マスクのxAIが現在取り組んでいる問題に続くものです。

同社は、特定のユーザーが女性や未成年者の性的化されたディープフェイク画像を何千枚も生成し、複数のソーシャルメディアプラットフォームに拡散させたことで、過去数週間にわたって圧力を受けています。この脅威により、複数の国の指導者が同社に秩序を求め、他の国々は事件に対処するための適切な保護措置を開発するよう求めています。インドネシアのような国々も、すべてが解決されるまでチャットボットの一時的な禁止を発表しています。

一方、プラットフォームは、行為が違法とされている場所で、GrokとXユーザーが人々のディープフェイクを生成する能力を地理的にブロックすることを確認しました。ただし、新しい保護措置がスタンドアロンアプリケーションまたはウェブサイトに適用されるかどうかはまだ分かりません。また、これらの措置がユーザーによるこの種の画像の生成を阻止するのか、それともサービスにアクセスする新しい方法を探すように促すのかもまだ分かりません。

暗号ニュースを読むだけではなく、理解しましょう。ニュースレターを購読してください。無料です。