18歳未満向けに安全機能を大幅に拡充する方針
米オープンAIは8月18日、チャットGPTを利用する18歳未満のユーザーに向け、安全機能を強化すると発表した。対象は自身を10代と登録した利用者に加え、同社が18歳未満と判定したアカウントで、専用設定が標準で適用される。新たな仕組みでは、有害な内容の制限だけでなく、AIを人間のように感じさせにくくする機能も盛り込む。未成年の利用では、通常アカウントとは異なる保護措置を初期状態から適用する形となる。安全機能の対象は回答内容だけに限られず、音声、利用時間、保護者との連携まで広がっている。
音声応答を止め人間らしさを抑える選択肢を導入
10代向けアカウントでは、音声による応答を停止できるようにする。会話の声をなくすことで、チャットGPTが実在の人物に近い存在として受け取られる度合いを抑える狙いがある。オープンAIは、若者がAIを生きている存在と誤認する特定の問題に対応した措置ではないとしているが、AIに感覚や意識があるように受け止めることへの社会的な懸念を背景に、安全設計を広げる。同社は、AIとのやり取りが過度に人間的に受け取られないよう、接し方にも選択肢を設ける。
静音時間と中断通知で長時間利用への配慮を強化
利用時間を管理する機能も追加する。設定した時間帯にチャットGPTを自動的に利用できなくする「静音時間」を設けるほか、一定の利用後には一時的に離れるよう促すメッセージを表示する。こうした通知を通じ、チャットGPTが常に応答を求める相手ではなく、必要に応じて利用を中断できるAIツールであることを若い利用者に示す。利用を止めるきっかけをシステム側から示し、連続使用を前提としない設計を取り入れる。
有害な内容への制限と保護者への通知機能を拡充
安全基準では、自傷や暴力、露骨な性的表現などへの対応を年齢に合わせて厳しくするほか、摂食障害に関する有害な依頼も警戒対象に加える。該当する利用が確認された場合には、保護者のアカウントへ警告する仕組みも導入する予定だ。オープンAIによると、通知は送信前に人が確認し、対象となる依頼から1時間以内に保護者へ届けることを目標としている。同社は、現実の支援が重要となる場面を重視し、保護者への連絡を安全策の一部に位置付ける。
現実の人間関係を重視した利用環境づくりを推進
オープンAIは、10代のAI利用には発達段階への配慮に加え、現実社会での人間関係を支える設計が必要だとの考えを示した。今回の変更では、会話表現を抑える仕組み、利用時間の管理、有害な内容への追加制限、保護者向け機能を組み合わせる。学習や情報収集でAIを活用する機会を残しながら、若年層がチャットGPTと過度に近い関係を築かないよう利用環境を調整する方針だ。若年層の利用を完全に制限するのではなく、使い方と会話の性質を調整する方向を明確にした。こうした設計により、AIを必要な場面で使いながら、長時間の連続利用や過度な親密さを抑えることを狙う。
