AIによる解雇判断を制限、緊急停止策も検討

米カリフォルニア州のギャビン・ニューサム知事は9月30日、職場でのAI利用を制限する複数の法律に署名した。新たな枠組みでは、AIだけに依存して労働者の解雇や懲戒を決めることを制限し、AIが大量解雇に関与する場合には書面による通知を求める。生体情報から労働者の感情を推定する利用や、私的な場所での監視にも制限が加えられる。

州はこれとは別に、高度なAIモデルを緊急時に停止させる仕組みについて専門家による検討も進めている。ここで議論になったのが、いわゆる「キルスイッチ」を技術的に何と定義するのか、そして政府がどこまで停止権限を持つべきかという点だった。

最も目立ったのは、キルスイッチという言葉そのものが曖昧だという意見である。「AIにはすでに電源コードという停止手段がある」という皮肉交じりの意見があり、物理的な停止と、遠隔からソフトウェアを無効化する仕組みを同じ言葉で扱うことへの警戒が強かった。

「電源を切ればいい」では済まないという反論

停止機能に懐疑的な意見では、政府が遠隔から個人のコンピューターやソフトウェアを停止できる仕組みに発展することを心配する内容が繰り返された。「政府がネット越しにあなたのコンピューターを止める」という表現で、技術的な安全装置より政府権限の拡大を問題視する意見もあった。

一方、単純な電源遮断論への反論もある。「クラウドで動くAIの電源コードはどこにあるのか」という意見だ。複数のデータセンターへ処理を分散し、障害時に別地域へ切り替えられるシステムでは、一台のサーバーを止める発想だけでは不十分だという指摘である。

具体例として「ブレーカーボックスの大きなレバー」「サーバーの電源スイッチ」といった物理的な停止方法を挙げる意見がある一方、停止したシステムが別拠点へ自動的に切り替わる様子を架空のサーバー名で皮肉る意見もあった。停止機能に賛成する側からも、分散されたクラウド環境で確実に止める方法を企業側に用意させる必要があるという主張が出ている。

労働者保護では「AIだけ特別扱いするのか」

もう一つの論点は、AIを使った解雇や大量解雇に対する労働者保護である。カリフォルニア州の新制度では、人間による確認を残し、AIだけに依存した高リスクな人事判断を制限する方向が示された。

これに対しては制度の書き方を疑問視する意見があった。「AIで解雇を決めてはいけないのに、AIが大量解雇に関与した場合は通知するのか」と、複数の規定を並べた時の関係が分かりにくいという指摘である。「できないのに、やった場合は書面で知らせるのか」という短い疑問も出ていた。

別の意見では、問題はAIそのものではなく、それを使って監視や解雇を決める人間側にあるとされた。「脅威を作るのは人間だ」という主張で、労働者を守る規則はAIという単語の有無に左右されず必要だという考え方である。道具そのものを鈍らせるのではなく、利用者側へ責任を課すべきだという比較も示された。

その一方で、企業による新技術の乱用を防ぐため、商業利用には一定の規制が必要だという意見もあった。家庭や大学で自由に研究・利用することと、企業が従業員の評価や雇用に使うことを分けて扱うべきだという考え方である。

「箱に閉じ込める」という発想への疑問

安全策を巡っては、AIを一つの閉じた装置として考えること自体への疑問も出た。「そもそも意味のある箱は存在しなかった」という意見では、大規模言語モデルが早い段階からインターネットや外部サービスと接続されてきたことが念頭に置かれている。

この立場からは、緊急停止策を一個の巨大な赤いボタンのように想像することへの違和感が示された。アカウント停止、サービス停止、サーバー停止、ネットワーク遮断など、実際には複数の層があり、それらをまとめて一つのキルスイッチと呼ぶと議論が混乱するという意見である。

逆に、まさに複数の層へ広がっているからこそ、緊急時に停止させる手順を事前に設計すべきだという意見もある。単一の機械なら電源を落とせても、地域をまたいで稼働するサービスでは「どこを止めれば全体が止まるのか」が単純ではない。この点では、政府権限への警戒と技術的な停止手段の必要性を同時に認める意見も確認できた。

皮肉の多さが示したキルスイッチへの距離感

議論には強い皮肉も目立った。カリフォルニア州の製品警告表示を思わせる調子で「AIは脱毛やむずむず脚、強迫的な賭博を引き起こす」と茶化す意見や、停止した架空のAIが別サーバーへ次々と切り替わる場面を描く意見があった。

こうした意見では、AIという新しい言葉を付ければ既存の電源管理やアクセス制御とは別の特別な安全装置が必要になる、という説明への不信が強い。一方で、クラウド環境では従来の物理スイッチだけでは足りないという具体的な反論もあり、単なる規制賛成と規制反対だけには分かれていない。

まとめ

最も多かったのは、キルスイッチの定義が曖昧なまま政府権限だけを広げることへの警戒と、既存の電源・アカウント・サービス停止との違いを明確にすべきだという意見だった。次に、クラウドへ分散したAIでは物理的な電源遮断だけでは不十分で、企業に実効的な停止手段を持たせる必要があるという意見が続いた。労働者保護については、AIだけを特別扱いするより人間の雇用判断や監視そのものを規制すべきだという意見と、企業利用には明確な制限が必要だという意見が並んだ。全体として、AIを止める必要性そのものより、誰が何をどの範囲まで止められる仕組みにするのかへ議論が集中していた。