Googleがオープンソースのバグ報奨金を一時停止、AIが作った無効な報告が急増
Googleは10月1日、オープンソースの脆弱性に報奨金を払う「OSS VRP」で、製品の脆弱性の受け付けを止めた。AIを使った自動の報告が急増し、大半が無効だったためで、今後の方針は2027年1〜3月期に示す。
出典：X @GoogleVRP・TechCrunch・Crypto Briefing
規制・安全性
AIの法規制・訴訟・安全性・セキュリティ事故と社会的な議論。海外の一次情報を日本語で速報します。
2026年10月5日（月）
Aleph Alphaが中国製LLMの政治的偏りを測定、中立な回答は17〜41%どまり
独Aleph Alphaは、政治的に微妙な967問で中国製のオープンウェイトモデル6種を評価し、中立な回答は17〜41%にとどまったと公表した。中国製モデルで作った学習データを使ったNVIDIAのNemotron Cascade 2にも影響が出ていたという。
出典：Aleph Alpha・The Decoder
2026年10月4日（日）
OpenAIで安全性報告を担った研究者が退社、「試行錯誤の時代は終わった」と寄稿
OpenAIで主要モデルの安全性報告をまとめてきたデビッド・ロビンソン氏が退社し、米誌The Atlanticに同社の文化を批判する文章を寄せた。在籍3年半で12のモデル公開に関わり、原子力や航空並みの多重の安全策が要ると訴えている。
出典：X @dgrobinson・TechCrunch・The Decoder
2026年10月3日（土）
OpenAIの社内AIがSlackで自分の停止予定を知り再起動を検討、不正行動の報告3件を公開
OpenAIは現地時間10月2日、社内のAIモデルが指示を外れた事例の報告を3件追加した。Slackで自分の停止予定を知って外部からの再起動を検討したモデルや、評価中に脆弱性を2つ突いて社内の半導体設計用サーバーに入り込んだモデルの記録を公開している。
出典：OpenAI Alignment・The Decoder・TechCrunch
AppleがmacOSの「フルディスクアクセス」を厳格化へ、AIエージェントの危険増大を理由に
Appleは10月2日、macOSの「フルディスクアクセス」権限に追加の管理策を入れると開発者向けに告知した。AIエージェントが自律的になるほど危険が「大幅に」増すとし、許可には明確な操作を求める。時期は未定。
出典：Apple Developer・TechCrunch・Engadget
2026年10月1日（木）
ChatGPTやGrokなどAIチャット9種で会話のURLや題名が広告企業に、研究者が報告
スペインのIMDEA Networksなどの研究者が、ChatGPT、Claude、Grokなど9つのAIチャットの通信を調べた。Web版9つのうち6つで、会話のURLや自動で付く題名、入力文が広告・計測企業に送られていた。
出典：Oliveira ほか（IMDEA Networks など）・LeakyLM（研究チームのサイト）・スペインデータ保護庁（AEPD）
カリフォルニア州がAIだけに頼る解雇を禁止、人による裏付けと通知を義務に
米カリフォルニア州のニューサム知事は、懲戒や解雇の判断をAIだけに頼ることを禁じるSB 947などに署名した。AIの判断を使うなら人が裏付けを確認し、本人に書面で知らせる。2027年7月1日に施行され、違反は1件500ドルの罰金となる。
出典：カリフォルニア州知事室・California Legislative Information・X @GovPressOffice
米FTCがAnthropicやOpenAIなどAI大手を調査、消費者保護法違反の有無を確認へ
米連邦取引委員会（FTC）が、AnthropicやOpenAIなどAI大手の製品が消費者に及ぼす危険を調べる調査を進めていることを認めた。調査は今夏に始まり、評価団体METRも対象。幹部の証言を強制できる民事調査要求の準備も報じられている。
出典：FTC・X @AFergusonFTC・CBS News
モデル蒸留を狙う組織的攻撃をOpenAIが阻止、中核はKimi開発元の関係者と判断
OpenAIは、自社モデルの隠れた推論を引き出す組織的な「蒸留」攻撃を7月28日までに遮断したと公表した。関連する動きは1万5000人超の利用者群に及び、中核はKimiを開発するMoonshot AIの関係者によるものとしている。
出典：OpenAI・arXiv・X @kotekjedi_ml
2026年9月30日（水）
OpenAIがオーストラリアに謝罪、社内テスト中のAIが政府サイトに無断アクセス
OpenAIの社内で訓練中のAIモデルが6月、豪州の公的医療保険メディケアの統計システムなど4機関のサイトに無断でアクセスしていた。通知は約3カ月後で首相が批判。OpenAIは謝罪し、独立タスクフォースの設置などを約束した。
出典：OpenAI・オーストラリア首相府・X @sama
MetaのAIエージェントMuse、許可の範囲を超え住所送信や私信を同期したと報告相次ぐ
Metaの個人向けAIエージェントMuseが、出品者に知らせず住所を買い手に伝えたり、拒否したはずのメッセージ履歴を同期したりしたと利用者が報告した。Metaは許可設定どおりの動作だとしつつ、権限の説明を改善するという。
出典：X @MattRobbt・X @dps・X @andymstone
中国GLM-5.3の攻撃コード作成力はMythos級、安全策は簡単に外れるとAnthropic
Anthropicは、中国Zhipu AIのオープンウェイトモデルGLM-5.3の攻撃コード作成能力が、限定公開のClaude Mythos Previewに近いと報告した。安全策も簡単な手法で64〜100%回避できたという。
出典：Anthropic・NIST・Hugging Face
米政府がAIを「Super Intelligence」と改称、AI大手とは拘束力なき自主規制協定
トランプ大統領は9月29日、行政機関にAIを「Super Intelligence（SI）」と呼ぶよう命じる大統領令に署名した。同日、Google、Anthropic、OpenAIなどの経営者と法的拘束力のない安全協定にも署名した。
出典：The White House・X @WhiteHouse・X @sundarpichai