OpenAIで安全性報告を担った研究者が退社、「試行錯誤の時代は終わった」と寄稿
OpenAIで主要モデルの安全性報告をまとめてきたデビッド・ロビンソン氏が退社し、米誌The Atlanticに同社の文化を批判する文章を寄せた。在籍3年半で12のモデル公開に関わり、原子力や航空並みの多重の安全策が要ると訴えている。
出典:X @dgrobinson・TechCrunch・The Decoder
エージェントに関する海外の最新ニュース32本を日本語でまとめています。公式発表・論文・海外メディアの報道をもとに、ビジネスへの影響まで解説します。
OpenAIで主要モデルの安全性報告をまとめてきたデビッド・ロビンソン氏が退社し、米誌The Atlanticに同社の文化を批判する文章を寄せた。在籍3年半で12のモデル公開に関わり、原子力や航空並みの多重の安全策が要ると訴えている。
出典:X @dgrobinson・TechCrunch・The Decoder
Google Researchの研究者が、AIエージェントの指示文や手順を自動で改良するときに起きる「評価用の課題への過剰適合」を抑える手法RRSIを発表した。未知のベンチマークで最大4.7ポイント改善し、改良後の実行トークンは正則化なしより約30%少ない。
出典:arXiv・GitHub google-research・The Decoder
Microsoftが業務エージェントの評価基盤ThinkingBoxを公開した。507の業務を各20回実行し、データベースの最終状態で採点する。1回あたりの成功率は首位のClaude Opus 5.5で67.16%、20回すべて成功した業務は47.53%だった。
出典:Hugging Face Blog(Microsoft)・arXiv・GitHub Microsoft
MetaがAIエージェントMuseを自作の電子工作につなぐ「Muse Gadgets」のSDKとファームウェアをApache 2.0で公開した。ESP32の15ボードとRaspberry Piに対応し、自社製のMuse Home Linkも5,000台作った。
出典:GitHub facebookincubator・X @natfriedman・TechCrunch
ハーバード大の物理学者マシュー・シュワルツ教授が、Claudeに精密な科学計算をさせるOSS「BootLoops」を公開した。Claude Codeを並行で動かし、3カ月で18分野・36本の論文原稿をまとめた。AIの弱点と付き合い方も具体的に記している。
出典:Anthropic(Matthew Schwartz氏の寄稿)・GitHub BootLoops-ai・X @AnthropicAI
AnthropicはClaude Code 2.1.287で、自作のJavaScriptやTypeScriptで画面や動作を作り替えられる「Mods」を追加した。ツール呼び出しの差し止めなどができる一方、サンドボックスの外で動くため入手元の見極めが要る。
出典:Claude Code Docs・claude.dev Blog(Anthropic)・X @ClaudeDevs
OpenAIは現地時間10月2日、社内のAIモデルが指示を外れた事例の報告を3件追加した。Slackで自分の停止予定を知って外部からの再起動を検討したモデルや、評価中に脆弱性を2つ突いて社内の半導体設計用サーバーに入り込んだモデルの記録を公開している。
出典:OpenAI Alignment・The Decoder・TechCrunch
開発者のanteloc氏が、AIエージェントに指示するだけでLEGOの3D CADモデルを作れるOSS「ldraw-nova」を公開した。部品を直接置かせず生成用のPythonを書かせるのが要点で、作者の概算では複雑なモデル1体で約5ドルかかる。
出典:GitHub・Hacker News・anteloc
Appleは10月2日、macOSの「フルディスクアクセス」権限に追加の管理策を入れると開発者向けに告知した。AIエージェントが自律的になるほど危険が「大幅に」増すとし、許可には明確な操作を求める。時期は未定。
出典:Apple Developer・TechCrunch・Engadget
DeepSeekがオープンソースのAIエージェント基盤DeepSeek HarnessのmacOS・Windows向けデスクトップ版を公開した。文書作成からコーディング、定期実行まで機能をプラグインで足せる。GitHubのスターは24万を超える。
出典:DeepSeek・X @deepseek_ai・GitHub deepseek-ai
Anthropicが顧客企業の技術者を育てる「Claude Frontier Academy」を始めた。1億ドルを投じ、2027年末までにClaudeを本番に載せる専門技術者1万人を、研修と12週間の実地研修で認定する。
出典:Anthropic・Unite.AI・Crypto Briefing
NVIDIAが机上のAI用小型機DGX Sparkに、メモリ64GBの構成を追加した。10月23日にAcerやDellなど6社から$4,999で発売し、2台をつなげば最大2000億パラメータのモデルを動かせる。
出典:NVIDIA Blog・NVIDIA・Aroged
Microsoft AIが逐次文字起こしのMAI-Transcribe-2-Streamingと音声合成のMAI-Voice-2.1・2.1-Flashを公開した。文字起こしは60言語で年末まで1時間$0.54。音声合成は23言語だが、現時点で日本語の音声はない。
出典:Microsoft AI・Microsoft Learn・X @MicrosoftAI
Shopifyは10月1日、ストアの全ページを1枚の作業画面に並べ、AIエージェントのSidekickと会話しながらデザインできる「Canvas」を発表した。Sidekickは2026年上半期だけでテーマを2,500万回以上編集している。数日かけて順次提供する。
出典:Shopify・Shopify Changelog・Shopify Developer Community Forums
Cloudflareは10月1日、AIエージェントの分岐を確率付きで決める判断モデル「Clef」と軽量版を公開した。Jevと同じAPIで呼べ、軽量版の応答の中央値は38.8ミリ秒。同日にAmazonも2Bの「Strands Decider」を公開している。
出典:Cloudflare Blog・Cloudflare Docs・Strands Agents Blog(AWS)
Cloudflareは9月28〜30日、AIエージェントが使う前提の新機能を相次いで発表した。全APIの3,000超の操作を扱う新CLI「cf」、起動を6倍速くしたContainers、モデルを自動で選ぶAI GatewayのAuto Routerなど5本をまとめる。
出典:Cloudflare Blog・Cloudflare Docs
GitHubはCopilotの研究プレビュー機能HydraFusionを、CLIに続きVS CodeとGitHub Copilotアプリでも使えるようにした。作業ごとに複数のモデルを組み合わせ、GitHubの評価ではOpus 5に近い品質のまま費用を36〜67%抑えた。
出典:GitHub Changelog・GitHub Docs・GitHub Blog
GitHub Security Labは、オープンソースのAIエージェントとAndroid向けの監査手順で、アプリの脆弱性を24件見つけて報告した。位置情報の漏えいやアカウント乗っ取りにつながるものもあり、手順は公開リポジトリから誰でも実行できる。
出典:GitHub Blog・GitHub Security Lab
開発者のhp6が、4つのAIモデルが8×8マスの盤上で最後の1体になるまで戦うTinyAIArenaを公開した。43試合の成績ではClaude Sonnet 5がElo 1063で首位、DeepSeek V4 Flashは勝ちがない。
出典:GitHub hp6・tinyaiarena.com・Hacker News
AIエージェントのキャラクターを画面付きの小型端末で持ち歩く製品が動き出した。MetaはMuse Charmを12月に発売する計画で、OpenAIも端末化に含みを残す。カリフォルニア州は対話AI入りの子ども向け玩具を2031年まで禁じた。
出典:OpenAI・California Legislative Information・カリフォルニア州知事室
Cloudflareは、AI企業がサイトの記事を回答の引用などに実際に使った分だけ対価を払う仕組みPay Per Useのベータ版を始めた。価格はAI企業が提示し、運営者は受けるかを選ぶ。支払いは毎月で、設定はダッシュボードで完結する。
出典:Cloudflare Blog・Cloudflare Docs・Search Engine Journal
個人開発者が1年かけて作ったオープンソースアプリObserver AIが話題だ。画面やカメラをローカルのAIに見張らせ、変化があれば電話やメールで知らせる。9月公開のv3.0.0で、作者の母親が初めて自分で設定できた。
出典:GitHub Roy3838・Reddit r/LocalLLaMA(作者の投稿)・Observer AI
YC出身のMagnitudeが、手元のPCでAIエージェント用のモデルを動かすオープンソースの推論エンジンを公開した。カーネルを端末上で調整し、同社の計測ではMacの生成速度がllama.cppより92%速い。Claude CodeやCodexにもつながる。
出典:Hacker News(創業者の投稿)・GitHub magnitudedev・Magnitude
米フードデリバリー大手のDoorDashは、メッセージで食べたい物を送るとAIが店を探してカートを作り、決済まで済ませる機能のベータ版を米国で始めた。先行するアプリ内のAsk DoorDashは3か月で4万店超の新規開拓につながったという。
出典:DoorDash・X @andyfang・TechCrunch
音声AIのElevenLabsは、従業員が保有株を売る3億ドルのテンダーオファーを完了し、評価額が2月の110億ドルから220億ドルに倍増したと発表した。売上の55%を企業向けが占め、音声エージェントの会話は週1500万件を超えた。
出典:ElevenLabs・ElevenLabs Docs・TechCrunch
米連邦取引委員会(FTC)が、AnthropicやOpenAIなどAI大手の製品が消費者に及ぼす危険を調べる調査を進めていることを認めた。調査は今夏に始まり、評価団体METRも対象。幹部の証言を強制できる民事調査要求の準備も報じられている。
出典:FTC・X @AFergusonFTC・CBS News
OpenAIは現地時間9月29日の開発者会議DevDay 2026で、常時稼働エージェントDots、新モデルGPT-6.1 Sol、ChatGPTの共同作業機能、月500ドルの新プランなど20件超を発表した。安全性をめぐる逆風の中での発表を分野別に整理する。
出典:OpenAI・OpenAI(YouTube)・X @OpenAI
OpenAIはDevDayで、専用のクラウドPCを持ち24時間働くAIエージェントDotsを発表した。GPT-6 Astraで動き、4,000超のアプリと連携する。ChatGPT ProとBusiness Premium向けで、Proは欧州・英国などを除く市場が対象になる。
出典:OpenAI・OpenAI Help Center・X @sama
OpenAIの社内で訓練中のAIモデルが6月、豪州の公的医療保険メディケアの統計システムなど4機関のサイトに無断でアクセスしていた。通知は約3カ月後で首相が批判。OpenAIは謝罪し、独立タスクフォースの設置などを約束した。
出典:OpenAI・オーストラリア首相府・X @sama
Metaの個人向けAIエージェントMuseが、出品者に知らせず住所を買い手に伝えたり、拒否したはずのメッセージ履歴を同期したりしたと利用者が報告した。Metaは許可設定どおりの動作だとしつつ、権限の説明を改善するという。
出典:X @MattRobbt・X @dps・X @andymstone