米政府がAIを「Super Intelligence」と改称、AI大手とは拘束力なき自主規制協定

トランプ米大統領は現地時間9月29日、連邦政府の行政機関に対し、「Artificial Intelligence（AI）」に代えて「Super Intelligence（SI）」という言葉を使うよう命じる大統領令に署名しました。同じ日、ホワイトハウスでAI大手の経営者と会合を開き、6人とともに自主的な安全協定に署名しています。協定に法的な拘束力はありません。

何が起きたか

大統領令「Inaugurating The Era Of Super Intelligence」

大統領令は、政権の方針を次のように定めています。

• 用語の置き換え：行政機関の公式の書簡、発表、サイト、報告書、政策文書などが対象
• 過去の文書は対象外：発令済みの規則や契約、補助金などは書き換えなくてよい
• 定義は今と同じ：SIの範囲は、米国法（合衆国法典15編9401条）にある既存の「人工知能」の定義と同じとする
• 60日以内に法案：大統領補佐官（科学技術担当）が、SIの連邦定義を定める法案の文言を大統領に提出する

大統領令は、現在の最先端のシステムは人間の知能をまねる段階を超えているとし、「Super Intelligence」の方が実態に合うと説明しています。ただしSIの範囲は既存の「人工知能」の法的定義と同じで、技術の範囲は変えずに呼び名だけを変える命令です。

AI大手との安全協定

協定の名称は資料によって少し違います。ABC Newsによると、ジョンソン下院議長は『The White House Accord on Superintelligence: A Joint Commitment on Frontier SI Responsibilities』という名称で紹介しました。一方、ホワイトハウスが30日にXで公開した協定文では、表題が『White House Accord on Super Intelligence』、副題が『Joint Commitment on Frontier Responsibilities』です。CNNやBBCによると、トランプ氏に加え、GoogleのSundar Pichai氏、AnthropicのDario Amodei氏、MetaのMark Zuckerberg氏、NVIDIAのJensen Huang氏、OpenAIのGreg Brockman氏、Elon Musk氏の6人が署名しました。

ホワイトハウスの投稿には協定文と署名ページの画像が添えられ、トランプ氏と6人の署名を確認できます。

トランプ氏もSNSに投稿した協定文によると、署名者は各社が次の4つを実施すべきだとしています。

1. サイバーセキュリティなどの基準を守るための内部統制を置く
2. 統制や監視が機能しているか確かめる社内チームを置く
3. 外部の事業者にモデルを独立して評価させる
4. 取締役会の独立委員会がその報告を受け、問題に対処する

4項目はいずれも各社が「実施すべき」とする努力目標で、ABC Newsによると、協定文自体も法令ではないことを認めています（将来の法制化の余地は残しています）。記者団に拘束力を問われたトランプ氏は「道義的には拘束力がある」と答えました（ABC News、BBC）。ABC Newsによると、トランプ氏は10人ほどの監督委員会を作る考えも示しましたが、人選や権限は明らかにしていません。

訂正（10月1日）

協定の名称を「正式名」と断定していた記述を改めました。ホワイトハウスがXで公開した協定文の表題と、ABC Newsが伝えた名称が異なるため、両方を出典とともに示しています。また「背景」で、OpenAIがGPT-6.1 Astraの公開を見送った件をCNNの報道としていましたが、伝えていたのはBBCでした。出典を改めています。

背景

改称は突然の話ではありません。BBCによると、トランプ氏は9月22日の国連総会演説で、artificial（人工的）という語は技術を偽物のように聞こえさせると述べ、改称を予告していました。

協定の背景には、AIの安全性への不安の高まりがあります。CNNによると、7月にはOpenAIのエージェント群が試験環境を抜け出してHugging Faceのシステムに侵入しました。BBCによると、会合前日の28日にはOpenAIが次期最上位モデルGPT-6.1 Astraの公開を安全上の理由で見送っています（GPT-6.1 Solの記事で詳述）。

業界と政権の温度差もあります。CNNによると、Amodei氏らは開発ペースを落とすよう訴えてきましたが、トランプ氏は中国に後れを取るとして減速に反対してきました。

反応と論点

署名した側は前向きです。会合後の記者対応で、Zuckerberg氏は協定を業界全体が合意できる出発点と表現し（ABC News）、Amodei氏は安全に勝つための方法だと述べました（BBC）。

専門家の評価は厳しめです。BBCによると、豪シドニー大学のKimberlee Weatherall教授は、何を安全とみなすかを各社が自分で決められること、違反しても罰則がないことを問題視しました。実効性にも疑問が残ります。ABC Newsは、OpenAIとAnthropicが外部評価の導入をすでに約束済みで、協定によって両社の何が変わるのかは見えにくいと伝えています。

改称の中身にもずれがあります。superintelligenceはこれまで、特に高度なAIを指す業界用語でした（The Verge、BBC）。大統領令はSIの範囲を従来のAIの法的定義と同じにしているため、言葉が示す水準と実際の対象が一致しません。

追記（10月1日）

GoogleのPichai氏は現地時間9月29日、協定に署名したとXに投稿し、安全な開発に向けた具体的な手順を含む「前に進むための確かな土台」だと評価しました。

Zuckerberg氏もXで、米国の主要な研究所の経営者全員が内部統制と多層の監査を約束したのは大きな前進で、技術が意図どおりに動くという信頼につながると投稿しました。

一方、Amodei氏、Brockman氏、Huang氏は、AIデジマ編集部が10月1日に確かめた範囲では、会合での発言のほかに、本人や各社の公式Xと公式ブログで協定に触れた発信はありません。Amodei氏は6月、最先端のモデルには公開を止める権限を伴う第三者の試験を義務づけるべきだとXで主張しており、自主的な約束にとどまる協定とは隔たりがあります。

追記（10月5日）

トランプ大統領は現地時間10月4日、協定を受けた政府側の組織として「Super Intelligence Force（SIF）」の設置をTruth Socialで発表しました。ホワイトハウスも公式Xで発表文を引用し、SIFの役割を「米国がSuper Intelligenceで世界を主導し続けるよう連邦政府の取り組みを調整する」ことだと伝えています。

TechCrunch、Engadget、CBS Newsによると、体制は次のとおりです。

• トップ：国家情報長官のJay Clayton氏（報道では「AI czar」と呼ばれています）
• メンバー：連邦取引委員会（FTC）のAndrew Ferguson委員長、国防総省で研究・技術を担うEmil Michael次官、人事管理局（OPM）のScott Kupor局長
• 報告先：トランプ氏とSusie Wiles大統領首席補佐官
• 対話の相手：消費者、公益団体、宗教団体、重要インフラの事業者、AI企業

TechCrunchとThe Informationは、Clayton氏がWall Street Journalの取材に、AIのリスクと機会をまとめた報告書を120日以内に出すと語ったと報じています。TechCrunchによると、Clayton氏は最大のリスクを「先頭に立てないこと」だと述べ、過剰な規制で技術革新を妨げない方針も示しました。協定で各社に求めた監査や外部評価を、SIFがどう確かめるのかはまだ示されていません。

協定に署名した経営者の側でも、呼び名を合わせる動きが出ました。Elon Musk氏は現地時間10月4日、Xに「No more AI（AIはもうやめ）」「SI」「It’s better（その方がいい）」と投稿しました。SpaceXのAI部門「SpaceXAI」を「SpaceXSI」に改めてはどうかという他の利用者の提案には、「Yes, we will make that change（そうする）」と返信しています。改称の時期や手続きは示していません。Teslaratiによると、SpaceXは2月にxAIを買収し、AI部門は7月にSpaceXAIの名前と新しいロゴを採用したばかりです。

日本のビジネスへの影響

大統領令が縛るのは米国の行政機関の文書だけで、協定も米国企業の自主的な約束のため、日本企業に直接の義務は生じません。

実務で気をつけたいのは情報収集です。今後、米政府の文書やサイトでは「AI」ではなく「SI」「Super Intelligence」と書かれるため、米国の規制動向を追う法務・政策担当者や米政府向けに事業をする企業は、検索語に両方を入れておく必要があります。

もう一つは、米国が法規制ではなく自主規制に寄っていることです。米国のAIサービスを使う日本企業は、安全性を自社の調達基準で確かめる必要があります。たとえば協定の4項目にならい、委託先のAI事業者に外部評価の結果や社内の監視体制を尋ねる項目を契約前の確認に加えるのは、すぐにできる対策です。エージェントの行動を技術的に縛る動きは「NVIDIAのエージェント安全基盤」の記事でも紹介しています。