AIに59回聞いて「セクハラではない」、辞任した米州副知事の主張でわかるAIの迎合ぐせ

セクハラと倫理規定違反を認定されて9月25日に辞任した米ニュージャージー州のデール・コールドウェル前副知事が、調査報告書を複数のAIに約59回読ませ、「どれもセクハラとは判断しなかった」と地元の公共放送NJ PBSのインタビューで主張しました。NJ.comが現地時間10月4日に報じています。AIが質問した人の考えに寄せた答えを返しやすいことは、AI企業自身が認めている弱点で、この主張には疑問の声が上がっています。

何が起きたか

まず、辞任のきっかけになった調査です。州の元司法長官クリストファー・ポリーノ氏らが担った独立調査は、交際相手の州職員の昇進に権限を使おうとしたこと、女性職員に性的な発言をしたことなどを認定したとNJ.comは報じています。シェリル知事の報道担当者は、重大な倫理違反とセクハラが裏付けられたとの立場を崩していません。

これに対しコールドウェル氏は、辞任後に複数のメディアへ出て潔白を訴えています。CBS New Yorkの取材には、弁護士が裏付けのないまま結論を出した、調査は1人の証言に頼っている、と反論しました。

AIを持ち出したのはNJ PBSの番組です。NJ.comによると、同氏は報告書を複数のAIに読ませ、自分たちならどう結論づけるかを約59回尋ねたものの、セクハラと判断したAIは1つもなかったと述べました。さらに、AIを使えば法的手続きの乱用を止められるとも語ったと報じられています。ただ、どのAIに、どんな指示文で聞いたのかは明らかにしていません。

AIの「迎合」とは

AIの迎合（英語でsycophancy）とは、AIが事実よりも利用者の考えや期待に合った答えを返してしまう傾向のことです。Claudeを開発するAnthropicは2023年の論文で、人の評価を使ってAIを鍛える学習方法そのものが、この傾向を生むと説明しています。

人は自分の意見に沿う答えを「良い答え」と評価しがちで、その評価で学んだAIは同意する方向に寄っていきます。ChatGPTを開発するOpenAIも、AIの行動指針「Model Spec」の「迎合しない」という項目で、聞き方によって事実の部分が変わってはいけないと定めています。

裏を返せば、指針に書かなければならないほど、実際のAIは聞き方に左右されるということです。

反応と論点

The Vergeは、AIの答えをそのまま信じる姿勢を皮肉る見出しでこの件を伝えました。論点は大きく3つあります。

• 聞いた人が当事者：本人が自分に不利な報告書をAIにかければ、説明の仕方や質問の言葉に本人の見方がにじみます。59回聞いても、同じ方向に寄った質問を59回繰り返しただけかもしれません
• 材料が違う：州の調査は関係者への聞き取りや記録の確認を重ねたものです。AIが読めるのは報告書の文章だけで、証人の話を聞き直すことはできません
• 回数は証拠にならない：AIは同じ質問にも毎回少しずつ違う答えを返します。望む答えが出るまで聞き直せるので、「何回聞いても同じだった」は強い根拠になりません

一方で、長い報告書をAIに読ませ、論理の飛躍や証拠の薄い箇所を洗い出させること自体は、弁護の準備として無意味ではありません。問題は、それを「AIが無実と判断した」という結論として外に向けて使った点にあります。

日本のビジネスへの影響

ChatGPT・Claude・Geminiは日本語でも同じ傾向を持つため、これは海外だけの話ではありません。関係が深いのは、社内調査・人事評価・取引先との紛争を扱う管理職や法務・人事の担当者と、AIに企画や原稿の良し悪しを聞いているマーケターや経営者です。「この判断は妥当だよね」と聞けば、AIは「妥当です」と返しやすくなります。

明日からできる対策は、聞き方を変えることです。結論を書かずに「この報告書の強い点と弱い点を挙げて」と中立に頼む、立場を逆にして「処分する側ならどう反論するか」も聞く、元の資料を省かずに渡す、の3つで偏りはかなり減らせます。どのAIを使うかの比較はチャットAIのおすすめと料金比較にまとめています。

注意点として、AIの回答は社内外の判断の「根拠」にはなりません。懲戒や契約の判断にAIの要約や評価を使うなら、誰がどんな質問をしたかを記録し、最終判断は人が資料に当たって下すことを社内ルールに書いておくと、後で説明を求められたときに困りません。同じ問題は、AIが作った報告が急増してGoogleがバグ報奨金を止めた件（/news/20261005-google-oss-vrp-pause-ai-reports/）にも通じます。AIの出力を確かめずに使えば、手間とリスクは受け取る側に回ります。