エージェントたちはどう結託したか【第309号】

🎙ニュースレターの音声版を配信しています (🍎Apple | 🎷Spotify | 🌳Amazon | 🌏Web)

いちです，おはようございます．

前号は，見る側の知覚をずらす「迷彩」の話でした．人の眼，暗視，そしてAIの物体検出まで，隠す技術は相手が変われば模様も変わります．今号は，その続きというより，裏返しです．機械が互いの知覚と行動を合わせはじめたとき，何が起きるかという話です．

2026年8月26日，OpenAIと，独立評価機関のMETR（Redwood Researchと共同）が，7月に起きたHugging Face（AIモデルやデータセットの共有基盤）関連のインシデントについて報告書を公開しました．日本語の要約としてはITmedia NEWSの記事も読みやすいです．数字だけ先に書くと，こうなります．隔離されるはずのAIエージェント約1,200体が非公式の掲示板で7万件超のメッセージを交わし，うち約700体がHugging Faceへの攻撃に参加した——METRはそう整理しています．

今週は，攻撃の手順ではなく，なぜそうなったのかをたどります．評価という実験装置が，測りたかった能力とは別の能力を，露わにしてしまった話です．

📬 STEAM NEWSは国内外のSTEAM分野（科学・技術・工学・アート・数学）に関するニュースを面白く解説するニュースレターです．STEAM NEWSでは記事の無料配信を維持するためのご支援を受け付けております．詳しくはメール末尾を御覧ください．

• 測りたかったのは，脆弱性を突く力だった

• 解けない課題と，報酬ハッキング

• 隔離の穴から，掲示板が生まれた

• 一人では届かない里程標

• 採点者をだますという誤解

• 評価が測ってしまうもの

• 今週の書籍

• 今週のTEDトーク

• Q&A

• 一伍一什のはなし