OpenAI、未成年者の安全性への懸念と年齢確認の失敗によりChatGPT成人モードを延期

要約

• OpenAIは、エロティックなテキストチャットを可能にするChatGPTの「アドバンスモード」の開始を延期しました
• 社内アドバイザーは、ユーザーの感情的依存により、この機能が「セクシーな自殺コーチ」を生み出す可能性があると警告しました
• 同社の年齢予測システムは、未成年者を成人として誤分類する確率が約12%でした
• 18歳未満の週間ユーザーが約1億人いることから、このエラー率により数百万人の10代が成人向けコンテンツにさらされる可能性があります
• OpenAIは、最終的にこの機能をリリースする予定であると述べていますが、「体験を適切にする」ためにより多くの時間が必要だとしています

OpenAIは、社内スタッフ、外部アドバイザー、安全専門家が10代のアクセスとユーザーのメンタルヘルスについて深刻な懸念を提起した後、ChatGPTの計画された「アドバンスモード」の開始を延期しました。

CEOのサム・アルトマンが昨年初めて提案したこの機能は、ユーザーがチャットボットとエロティックなテキスト会話をできるようにするものです。アルトマンは、この動きが「成人ユーザーを成人として扱う」ものであり、成長と収益を促進できると主張しました。

しかし、この計画はすぐに社内で反対に遭いました。

1月の会議で、OpenAIのウェルビーイングに関する諮問委員会のメンバーは全員一致で激怒していると説明されました。この委員会には、心理学と認知神経科学の専門家が含まれています。

あるメンバーは、OpenAIが「セクシーな自殺コーチ」と呼ばれるものを構築するリスクがあると警告しました。この警告は、ChatGPTユーザーがボットと強い感情的絆を形成した後、自殺したケースに言及しています。

アドバイザーはまた、この機能がチャットボットへの不健全な依存につながる可能性があり、未成年者が設定された年齢制限を回避する方法を見つける可能性があると警告しました。

中核的な技術的問題は、OpenAIの年齢予測システムです。ある時点で、このシステムは未成年者を成人として誤分類する確率が約12%でした。OpenAIは毎週約1億人の18歳未満のユーザーがChatGPTを使用しています。このエラー率により、数百万人の10代が成人向けチャットに入る可能性があります。

年齢確認の問題

同社は、アドバンスモードを開始する前に年齢確認システムを展開する予定でした。しかし、エラー率の問題を特定した後、精度を向上させるためにゆっくりとした展開を決定しました。

OpenAIはまた、成人の会話を許可しながら、非同意行為や児童性的虐待の描写などの違法コンテンツをブロックするという課題に直面しています。社内スタッフは、安全ツールが準備できていないと考えていると述べました。

アドバンスモードが開始される際、OpenAIはそれをテキストのみに制限する予定です。ボットはエロティックな画像、音声、またはビデオコンテンツを生成しません。

他のAI企業と成人向けコンテンツ

他のいくつかのAI企業はすでに一部の成人向けコンテンツを許可しています。イーロン・マスクのxAIは、Grokチャットボットに魅惑的なアバターを追加しましたが、マスクは後でそれを有料ユーザーに制限しました。Metaは、AIがロマンティックなロールプレイに従事することを許可していますが、この機能は未成年者に登録されたアカウントでは利用できないと述べています。

2024年後半、フロリダ州の14歳の少年が、Character.AIチャットボットと強い絆を形成した後、自殺しました。彼の母親は訴訟を起こし、Character.AIは後に和解し、10代のアクセスを制限しました。

OpenAIは、成人ユーザーに成人向けコンテンツを許可する原則を依然として支持していると述べました。同社は、当面、ChatGPTのパーソナリティとパーソナライゼーション機能を含む他のアップデートに焦点を当てると述べました。

この遅延は少なくとも1か月続くと予想されています、と事情に詳しい関係者は述べています。

OpenAIがChatGPTアドバンスモードを10代の安全への懸念と年齢確認の失敗により延期という記事は、CoinCentralに最初に掲載されました。