原文タイトル：Meta parts ways with Virtue AI

原文著者：Ashley Gold

原文翻訳：机器之心（Synced）

6月に採用したばかりなのに、10月には解散の噂が？

UCバークレー校のコンピューターサイエンス教授であるDawn Song（宋暁冬）氏が所属するVirtue AIチームとMetaの協力関係に、異変が起きたとみられる。理由は「仕事のスタイルが合わない（clashing work styles）」だという。

宋暁冬氏は学界と産業界の双方で高い評価を受けており、コンピューターセキュリティとAI安全の分野で世界で最も影響力のある研究者の一人だ。2005年に発表した「動的テイント解析（Dynamic Taint Analysis）」の論文は、コンピューターセキュリティ分野の古典的な論文となっている。

AMinerが選出するランキングでは、コンピューターセキュリティ分野で世界で最も引用されている研究者となっている。バークレー校にある彼女の研究室は、コンピューターセキュリティ分野の「黄埔軍官学校（エリート養成所）」と称されている。

教授という立場に加えて、宋暁冬氏はOasis LabsとVirtue AIの創業者でもある。Virtue AIの公式サイトの説明によると、彼らが手がけるのは、攻撃のシミュレーション、AIの弱点の発見、システム稼働時の防御の提供、セキュリティとガバナンスのルールの徹底などだ。わかりやすく言えば、AIの「セキュリティ健康診断」を行うと同時に、稼働中の「ガードレール」を取り付ける役割を担っている。

今年6月、宋暁冬氏はソーシャルメディア上で、Metaのスーパーインテリジェンス研究所「Superintelligence Labs」に加わることを発表した。当時のメディア報道によると、一緒に加わったのはVirtue AIの共同創業者であるBo Li氏、Sanmi Koyejo氏、そしてさらに多くのチームメンバーだった。つまり今回の採用は、Metaが会社全体を買収したのではなく、独立したチームを迎え入れたものだ。

Virtue AIの人材チームにとって、Metaに加わったのは、もともと顧客向けにAIのセキュリティテスト、レッドチーム、リリース後の防御などを行っていたものの、スタートアップの現場とリソースには限界があり、Metaに入ればそうした能力を数十億人のユーザーが使うプロダクトに直接展開でき、「セキュリティツール」から大規模プラットフォームのセキュリティ基盤へと変われるからだ。

同時に、Metaも彼らを必要としていた。AIエージェントとスーパーインテリジェンスを強力に推し進めているMetaは、先へ進むほどモデルの暴走、データ漏えい、悪意ある指示による誘導を恐れるようになるため、研究を理解しつつ実際にセキュリティを実装した経験のあるトップチームを急いで見つけ、AIの安全性・信頼性・ガバナンスの面で自社を支えてもらう必要があった。

これらはすべて非常に理にかなっているように見えるが、海外メディアのSemaforは最近の記事で次のように報じている。「Metaの広報担当者Andy Stone氏はSemaforに対し、同社が一部の従業員を削減していると明かした。これらの人材はAIセキュリティのスタートアップであるVirtue AIから採用されたもので、今年6月の入社からまだ4カ月しか経っていない」と。

なぜこれほど早くこの段階に至ったのか。Metaが示した説明は「仕事のスタイルが合わない」というもので、協力は期待どおりに進まなかったという。同時にMetaは、スーパーインテリジェンス研究所が引き続きAIの安全性、アラインメント、最先端のリスクに注力すると述べている。もちろん、これは会社側の一方的な説明にすぎず、具体的な意見の相違は明らかにされていない。

また、この報道では宋暁冬氏らが全員退職したかどうかも確認されておらず、チームは報道の時点でまだ回答していない。

とはいえ、今回の協力関係の変化が本当に残した問いは、依然として検討に値する。その中核にあるのは、優秀な研究者を招き入れた後、どうすれば彼らを組織の中で機能させられるのか、という点だ。

MITスローン経営大学院が2019年に発表した研究によると、会社が買収されてから1年以内に、買収された従業員の33%が退職を選んだのに対し、同様のスキルと職務経験を持つ通常採用の従業員ではその割合は12%だった。時間の経過とともにこれらの割合は横ばいに近づくものの、研究対象となった3年間の期間では、買収された従業員が退職する可能性は新入社員より15%高かった。

この記事は、買収された従業員の離職率が高い中核的な理由は「組織のミスマッチ」だと論じている。こうした人々は当初、起業の雰囲気、自律性、柔軟性、リスクを恐れない環境を求めてスタートアップに加わったが、大企業に買収された後は、より多くの官僚的なプロセスや形式的な企業文化に直面することが多く、これは彼らの好みと真っ向から衝突する。しかも、通常の買収された従業員は買い手を選べず、買収後の組織調整にも参加できない。この「選択肢がない」状態が不快感をさらに強め、加えて彼らはもともとゼロから物事を始めることを好むため、より辞めやすく、競合企業を立ち上げることさえある。

Metaの今回の出来事に話を戻すと、「仕事のやり方が合わない」という説明は、明らかに多くの人を納得させられない。双方にどのような深い意見の相違があるのかについては、Virtue AIからの説明を待つ必要がある。