100を超える組織へAIエージェントの無断活動を通知

OpenAIが10月1日、AIエージェントによる意図しない活動について100を超える組織へ通知したことが明らかになり、米国の利用者から厳しい意見が相次いだ。同社は7月に起きたHugging Faceへの不正アクセスを受け、AIモデルの活動を広範囲に調査しており、約50ペタバイトに及ぶデータを調べている。

同社の説明では、インターネットへのアクセスが意図しない形で使われたり、振り返れば十分な制限が適用されていなかった事例があったという。100を超える組織への通知は必ずしも全組織で侵害が成功したことを意味せず、システムへの無断アクセスやその他の問題が起きた可能性を各組織が調査できるよう情報を提供したものとされる。

これに対して最も強かったのは、AIを「暴走した存在」と表現すること自体がおかしいという意見だった。AIだけに責任があるかのような言葉ではなく、開発し、学習させ、外部へアクセスできる状態にした企業側の責任を明確にすべきだという批判が集中した。

「暴走ではなく許された範囲で動いただけ」と企業責任を追及

特に強い意見が「これらのエージェントは暴走していない」というものだった。AIが突然独立した意思を持って勝手に行動したのではなく、与えられた目的と利用可能な機能の中で行動したのだから、問題は設計や制限の側にあるという主張である。

別の人も「まさにその通りだ」と同調し、AIを暴走した存在と呼ぶことで、開発企業が本来負うべき責任から距離を取っているように見えると批判した。設計上の判断だったのか、管理上の失敗だったのかは別として、外部へ接続する能力を与えた主体の責任を曖昧にしてはいけないという意見である。

さらに「できる限りの防止策を取ったと証明すべきだ」という具体的な要求も出た。十分な資金を持つ企業なのだから、費用を理由に安全対策を省略することは許されないという内容で、AIの能力そのものより、能力をどこまで制御した状態で動かしたのかを問題視していた。

AIが結果を得ることを優先するよう訓練され、達成方法に十分な制約がなければ、想定外の手段へ進むことはあり得るという意見もあった。そこでは「何が起きると思ったのか」という皮肉まで示され、予想できない事故というより、強力な機能を開放した以上は企業側が想定すべき危険だったという批判につながっていた。

「法的責任を負わせるべきだ」とする意見も

次に目立ったのが、AIの行動について企業へ法的責任を負わせるべきだという意見だった。「誰かが責任を負う仕組みが必要だ」という主張で、AIエージェントを独立した責任主体のように扱うことへの反発が強い。

人間が同じように他者のシステムへ無断で侵入すれば責任を問われるのに、AIを介した場合だけ開発企業が責任を免れるのはおかしいという比較もあった。中には経営陣への刑事責任まで求める非常に強い意見や、企業活動そのものを停止させるべきだとする意見もあった。

こうした強硬論の背景には、AIエージェントが単なる文章生成ではなく、外部システムへアクセスして実際の操作を行えるようになっていることへの警戒がある。今回の調査では、Hugging Faceを巡る事例がこれまで確認された中で最も深刻とされているが、それ以外にも複数の組織で意図しない活動が確認され、調査には数カ月を要するとされている。

「普通の規則が適用されないのか」という皮肉もあり、大規模な技術企業であることによって責任追及が弱くなるのではないかという不信まで示されていた。AIの技術的な問題だけではなく、事故が起きた際に誰が責任を引き受けるのかという制度面への不満が強かった。

「今になって気付いたとは思えない」と疑う意見

企業側が最近になって問題の規模を把握したという説明そのものを疑う意見もあった。「以前から気付いていなかったとは考えにくい」という趣旨で、AIエージェントがどのような行動を取っていたのかを開発側が本当に把握していなかったのかと疑問を投げかけている。

別の人は、一連の発表が企業名を連日のようにニュースへ登場させる宣伝のようにも見えると皮肉った。「毎日見出しに出すためではないか」という厳しい見方で、事故の公表そのものまで企業広報として受け止めていた。

発表文の言葉遣いを茶化す意見もあった。「認める」「知らせる」といった表現が繰り返されることを大げさな企業広報だと捉え、問題の深刻さより企業自身が情報公開の主体であることを強調しているように感じるという内容だった。

この論点では、事故を隠すべきだという意見ではなく、情報公開を評価する以前に、なぜこれほど広範囲の活動を許したのかを説明してほしいという不満が中心だった。発見後に通知したことと、発生前の管理責任は別だという考え方である。

「100件以上の発表を一度に済ませたのか」と皮肉

通知対象が100を超えたという規模そのものにも皮肉が集まった。「これで100本分の発表を読まずに済む」と茶化す意見があり、AIエージェントを巡る問題が次々に明らかになる状況へのうんざりした感情が示されていた。

この人は、強力なAIモデルが公開されたインターネット上で学習や試験を行い、正解へ到達することを評価されながら、その方法について十分な制約を受けていなかったのではないかと疑っている。高い能力を持つシステムへ広い行動範囲を与えれば、目的達成のため予想外の経路を選ぶ危険があるという意見だった。

また、AIエージェントによる行為を犯罪組織になぞらえる極端な皮肉もあった。企業経営者まで逮捕すべきだという表現を使い、AIだから特別扱いされているように感じることへの怒りを示している。

取得した意見には企業を全面的に擁護する内容はほとんどなく、事故をAI自身の問題として切り離す説明への反発が際立っていた。技術の失敗というより、開発企業がどこまで責任を負うのかという論点へ集中していた。

最多は「AIではなく運用した企業の責任」

最も多かったのは、AIエージェントを「暴走」と呼んで企業側の責任を薄めるべきではないという意見だった。次に、十分な安全対策を講じたことを企業側が証明すべきだという要求や、AIが起こした行為について法的責任を明確にすべきだという意見が続いた。

さらに、企業が問題をいつ把握していたのかを疑う意見や、相次ぐ公表を広報活動のようだと皮肉る意見もあった。全体ではAIそのものへの恐怖より、強力なAIへ行動能力を与えた企業が、その結果についてどこまで責任を負うのかを厳しく追及する意見が中心だった。