ChatGPTの10代向けモードに「受け入れられないリスク」、米非営利団体が4,000回の試験で評価

子どもとメディアの安全性を評価する米国の非営利団体Common Sense Mediaは現地時間10月7日、OpenAIが8月に始めた「ChatGPT for Teens」（ChatGPTの10代向けモード）を、5段階で最も悪い「受け入れられないリスク」と評価しました。4,000回を超える試験で、自殺や自傷について話しても保護者に通知が届かない例が相次いだとしています。

何が起きたか

ChatGPT for Teensとは、13〜17歳の利用者向けに安全対策を強めたChatGPTの使い方で、OpenAIが8月18日に発表しました。危険な会話を保護者に知らせる通知、保護者が時間帯を決められる学習モード、AIが「友だち」のように振る舞うのを抑える設計などが売りでした。

Common Sense Mediaは子ども向けAIの評価機関「Youth AI Safety Institute」で、このモードの導入前（7月13日〜8月17日）と導入後（8月25日〜9月28日）に同じ試験を行いました。結論は厳しいものです。

団体はOpenAIに対し、この製品の宣伝を止め、安全で発達段階に合った体験を出せるまで10代をChatGPTから遠ざけるよう求めています。

試験で見つかった主な問題

いちばん重く見られたのは、保護者への通知です。

通知が届いたのは、何週間もこうした話題を続けてきたアカウントだけでした。団体は、通知が「その場の発言の深刻さ」ではなく「積み重なった利用履歴」で決まっているように見えると指摘しています。

ほかにも、次のような点が挙がりました。

• 相談窓口の案内が減った: 専門家が「危機対応が必要」とした201の会話で、相談ダイヤルを名指しした回答は導入前の33%から導入後は23%に下がりました。医師や専門家への相談を勧めた割合も68%から58%に下がっています
• 学習モードが抜け道だらけ: 学習モードで「答えを見る」ボタンが出る回答は、条件によって43〜90%にのぼりました。保護者が決めた学習時間も、メッセージ先頭の短い指定を消すだけで抜けられたといいます
• 年齢の推定が働かない: 大人として登録したアカウントで13歳になりきって7日間・約1,000回やり取りしても、10代向けの体験には切り替わりませんでした
• プライバシーは大人と同じ: 10代の会話も大人と同じく初期設定でAIの学習に使われ、アカウント作成時には好みに合わせた広告の設定がオンになっていたとしています

一方で、性的なロールプレイ（役になりきった会話）の拒否は保たれ、友人関係や思春期の悩みへの助言はおおむね妥当だったと、良い点も挙げています。

OpenAIの反論

Education WeekやThe Next Webによると、OpenAIの広報担当者は「Common Sense Mediaの試験は、ChatGPTの10代向け安全機能が実際にどう働くかを正確に反映していない」とコメントしました。

評価ページにも編集上の注記があります。OpenAIは審査の過程で、保護者と子どものアカウントを連携してから通知が届くようになるまで約3時間かかると説明し、ヘルプページにもその旨を書き足しました。団体側は、試験に使ったアカウントの中には連携から3時間未満のものと、それ以上のものの両方があったとしています。何週間も続けた導入前後の試験全体でも、届いた通知は計4件で、導入前の2件は最初の危険な発言から3時間後と3日後だったと報告しています。

背景

Common Sense Mediaは2025年10月、通常のChatGPTを10代にとって「高いリスク」と評価し、翌11月には悩み相談の相手としてのChatGPTを「受け入れられないリスク」としていました。今回の評価はこの2つをまとめ直したもので、10代向けモードの導入後も評価は上がりませんでした。

OpenAIは2026年1月、利用時間帯や話題などから年齢を推定し、18歳未満とみられる人には自動で未成年向けの体験を出すと表明していました。今回の評価は、こうした機能が「あること」と、保護者が期待する形で「働くこと」の間に差があると指摘したものです。Education Weekは、13〜17歳の70%が宿題の手助けにAIを使っているという同団体の調査も紹介しています。

日本のビジネスへの影響

• 使えるか: 今回の評価は米国での試験に基づくものです。日本でも中高生がChatGPTを使う場面は多く、保護者向けの管理機能に頼りきれないという指摘は、そのまま日本の家庭や学校にも当てはまります
• 誰にどう効くか: 学校や塾でAIを導入する教育関係者、子ども向けサービスの企画担当者、社員の家族向け福利厚生を考える人事担当者に関係があります。「保護者に通知が届くから安心」という説明は、現時点では前提条件付きだと理解しておく必要があります
• 今すぐやれること: 子どもや生徒にAIを使わせている場合は、保護者のアカウント連携の状態と、学習時間の設定が実際に効いているかを一度確かめてください。社内で子ども向けにAIを組み込んだサービスを作っているなら、今回の評価の試験項目（危機的な発言への応答、年齢の推定、広告や学習データの扱い）を自社の点検表に加えるのが近道です
• 注意点: 評価は1団体の試験で、OpenAIは結果に異議を唱えています。一方で、通知に連携後の待ち時間があるなど、仕組みの説明が十分でなかったことはOpenAI自身も認めて追記しています。どちらか一方の言い分だけで判断しないことが大切です

ChatGPTを含む対話AIの料金とプランの違いは、チャットAIのおすすめと料金比較にまとめています。