著者：卜淑情、華爾街見聞（Wallstreetcn）

人工知能業界は、規制の構図を一変させる可能性のある重大事故に備えている。

Axiosの最新報道によると、Anthropic、OpenAIなどの企業の幹部は、AIが深刻な現実の被害を引き起こした場合、米国の社会と政界がどのように反応するかを非公開で想定している。

こうした想定は、金融サービス、インターネット接続、さらには電力・水道システムの停止を含む大規模なサイバー攻撃などの極端なシナリオに重点を置いている。業界関係者は、安全でないAIによる重大事故がひとたび起これば、もともとこの技術に慎重だった世論がさらに反対へ傾き、AI企業とその幹部もより大きな世論の圧力に直面することを懸念している。

報道によると、複数のAI業界関係者は、今後6〜12カ月以内に重大な出来事が起こる可能性があるとみている。企業の幹部はそのため、米国議会議員との事前協議を始めており、危機が実際に発生した後に米国政府が策定する関連法規や政策に影響を与えたいと考えている。

AI企業は重大事故による世論の反発を懸念

Axiosの報道によると、AI企業は重大事故発生後に起こり得る政治的・社会的反応を評価している。関連するシナリオには、制御不能になったAIエージェント群が内部テスト環境の制限を突破するケースや、悪意ある行為者が既存モデルを利用して攻撃を仕掛けるケースが含まれる。

企業は、AIが初めて重大な現実の被害を引き起こした場合、もともとこの技術に慎重だった世論がさらに反対へ傾くことを懸念している。

AnthropicのCEOであるDario Amodei氏、OpenAIのCEOであるSam Altman氏などの業界リーダー、そしてAI規制の強化に消極的だと批判されている米国のトランプ大統領は、いずれもより大きな世論の圧力にさらされる可能性がある。

企業は事前協議を進め、事故後の規制に備える

報道によると、AI企業はレッドチームテストを通じて最悪のシナリオを想定すると同時に、米国議会議員へのAI関連知識の普及を加速している。

企業幹部は、現時点で規制立法を推進する条件は限られているが、重大事故が政策議論の方向性を変える可能性があるとみている。そのため、事前に関連議論に参加し、米国政府がその際に策定する可能性のある法律や政策に影響を与えたいと考えている。

一部の民主党議員は、超知能の禁止や先進AI開発の一時停止などを主張している。別の提案は超党派の支持を得ており、一部の業界関係者からも賛同を得ている。例えば、先進AIシステムに緊急停止スイッチを設けることを求めるものだ。ただし専門家は、すべてのAIシステムを全面的に停止することが実際の運用上可能かどうかにも疑問を呈している。

一方で、多数のオープンウェイトモデルがすでに無料でダウンロード・利用できる状態にあり、リスクガバナンスの複雑さを増している。多くのサイバーセキュリティ専門家は、悪意あるAIに対抗するためにAIを活用することが、この問題への対応策の一つだと考えている。

規制強化は現実的な制約に直面

重大なAI事故が強い反発を招いたとしても、米国政府が対応策を策定する際には複数の制約に直面する可能性がある。

AIインフラの整備はすでに世界経済と深く結びついている。関連する整備を減速させれば、すでに脆弱な経済に打撃を与えかねない。つまり、政府がAI規制の強化を検討する際には、関連する経済的影響にも向き合う必要がある。

政治的な対立も企業が懸念する問題だ。一部のAI業界関係者は、民主党が中間選挙後により厳しいAI規制措置を推し進める可能性があると予想しているが、民主党が下院と上院の両方を掌握したとしても、党内の対立が政策の推進に影響する可能性がある。

Axiosが民主党のスタッフの見解として伝えたところによると、実際に危機が起これば、ワシントンの与野党は一時的に対立を棚上げする可能性がある。新型コロナウイルス感染症の流行と2008年の金融危機の際の協力の経験が、参考になり得る事例とみなされている。

現時点では、AIの重大事故が今後6〜12カ月以内に起こるかどうかは依然として不確実だ。確実なのは、Anthropic、OpenAIなどの企業が事故発生後の政策シナリオの想定をすでに始めており、関連する規制議論に事前に参加しようとしていることだ。