글쓴이: 리자
앤트로픽의 AI 모델은 주요 투자자인 아마존의 요청으로 공개된 지 며칠 만에 미국 정부에 의해 사용이 중단되었습니다.
월스트리트 저널에 따르면, 아마존 CEO 앤디 가세티는 미국 재무부 장관 베산트와 다른 고위 관리들에게 전화를 걸어 아마존 연구원들이 특정 프롬프트를 이용해 앤트로픽의 대표 모델인 페이블 5의 보안 장벽을 우회하고 사이버 공격에 사용될 수 있는 민감한 정보를 빼냈다고 주장했습니다. 백악관은 즉시 긴급 회의를 소집했고, 상무부는 결국 페이블과 미소스 모델에 대한 수출 통제를 시행하여 해외 사용자의 접근을 금지했습니다 . 앤트로픽은 이에 따라 규정 준수를 위해 두 모델에 대한 모든 사용자 접근을 중단했습니다.
이 규제는 기업공개(IPO)를 준비하는 앤트로픽의 전망에 그림자를 드리울 뿐만 아니라, 기술 대기업들 사이의 은밀한 권력 투쟁, 첨단 인공지능에 대한 미국 정부의 안보 우려, 그리고 앤트로픽과 트럼프 행정부 사이의 오랜 긴장 관계를 반영합니다.
아마존의 심야 전화 한 통이 AI 규제에 연쇄 반응을 일으켰다.
악시오스에 따르면, 이 사건은 현지 시간으로 목요일 밤늦게 시작되었습니다. 아마존은 미국 정부 관계자들에게 연락하여 자사 연구원들이 앤트로픽의 미소스 모델의 보안 제한을 성공적으로 우회하여 국가 안보 위협으로 간주되는 콘텐츠에 접근했다는 보고서를 제출했습니다.
월스트리트 저널에 따르면 아마존 보고서는 Fable 5 모델이 특정 지시에 따라 최소 4개의 소프트웨어 프로그램에서 보안 취약점을 발견할 수 있었으며, 이러한 정보는 일반적으로 모델의 보안 메커니즘에 의해 보호된다고 밝혔습니다.
사이버 보안 회사인 그레이노이즈 인텔리전스의 설립자 앤드류 모리스는 이러한 정보가 진정으로 위험한 사이버 보안 정보와는 아직 거리가 멀고, 공개적으로 사용 가능한 많은 도구로도 유사한 취약점을 발견할 수 있다고 지적합니다. 더욱이 아마존 연구원들이 취약점 정보를 실행 가능한 공격 코드로 변환하는 페이블 모델의 심층적인 방어 체계를 뚫었다는 증거는 없습니다.
앤트로픽은 아마존이 지적한 취약점은 비교적 기본적인 문제이며, 자사는 충분한 보안 조치를 마련해 놓고 항상 보안을 최우선으로 생각한다고 답변했습니다.
금요일 새벽 협상이 결렬되자 트럼프 대통령은 수출 통제 명령에 서명했다.
악시오스에 따르면, 정부 관계자들은 금요일 새벽에 앤트로픽 측과 몇 시간 동안 협상을 벌이며 최신 모델을 자발적으로 매장에서 철수할 것을 요구했지만, 합의에 이르지는 못했다.
월스트리트저널에 따르면, 앤트로픽의 CEO 다리오 아모데이는 금요일 일부 정부 관계자들과의 전화 통화에서 정부의 우려를 더욱 증폭시켰다. 정부 관계자들은 앤트로픽이 정부 안보 전문가들과의 문제 해결 협력에 소극적인 태도를 보인 것이 안보 위험 관리 능력 부족에 대한 기존의 인식을 뒷받침하는 것이라고 여겼다 .
결국, 혁신을 제한하는 것에 대한 우려에도 불구하고 트럼프 대통령은 해당 제한 조치를 승인하는 행정 명령에 서명했습니다. 백악관 AI 고문이자 벤처 투자자인 데이비드 색스는 소셜 미디어에서 이러한 제한 조치가 "마지못해" 이루어졌다고 밝히며, 정부는 "이제 앤트로픽이 보안 문제를 해결하고 수출 통제를 해제하며 페이블 모델을 다시 공개하기를 바란다"고 덧붙였습니다.
앤트로픽은 페이블 모델 출시 전에 미국 정부에 여러 차례 통보했으며, 주요 정부 AI 테스트 기관과 협력하여 단계적 출시 전략을 채택했습니다. 이 전략은 아마존과 같은 기술 기업에 먼저 프리뷰 접근 권한을 제공하여 소프트웨어 취약점 검사에 활용할 수 있도록 한 후, 더 많은 사용자에게 공개하는 방식을 우선시했습니다.
이해관계가 복잡하게 얽혀 있는 아마존은 주주인 동시에 내부 고발자이기도 합니다.
이 사건의 복잡성은 아마존이 앤트로픽의 주요 투자자이자 칩 공급업체인 동시에 앤트로픽의 최고 모델을 자사의 소프트웨어 취약점 식별 사업에 활용하고 있다는 사실에 있습니다.
월스트리트저널은 사정에 정통한 소식통을 인용해 아마존 CEO 에릭 가세티가 정부 관계자들에게 처음 전화를 건 것은 일반적인 보안 경고였지만, 상황이 급속도로 악화되어 상무부가 해외 사용자들에 대한 아마존 접속을 전면 금지하는 조치로 이어졌다고 보도했습니다. 아마존 대변인은 아마존이 다수의 공공 및 민간 고객에게 서비스를 제공하는 선도적인 클라우드 서비스 제공업체로서, 정부가 잠재적인 보안 위험에 대해 아마존과 협의하는 것은 드문 일이 아니며, 이러한 경우 협의 내용에 대한 세부 사항은 공개하지 않는다고 밝혔습니다.
일부 분석가들은 백악관이 앤트로픽을 불신하는 것은 오랜 역사를 가지고 있으며 , 그 이유로는 앤트로픽이 진보 성향의 정치 기부자들과 연관되어 있다는 점, 인공지능의 위험성에 대해 공개적으로 경고해 왔다는 점, 그리고 과거 바이든 행정부 관료들을 여러 명 고용했던 점 등을 꼽는다.
기업 가치 평가 압박과 사용자 이탈로 인해 OpenAI가 잠재적 수혜자가 될 수 있습니다.
앤트로픽의 IPO 추진에 있어 매우 중요한 시점에 시행된 이 규정의 시기는 특히 민감합니다.
보도에 따르면 해당 회사는 이르면 올가을 기업공개(IPO)를 계획하고 있었는데, 주력 모델의 강제 삭제로 인해 사용자들이 다른 플랫폼으로 이동하면서 회사 가치에 압박이 가해질 수 있습니다. 오픈AI는 자체적으로 강력한 사이버 보안 모델을 보유하고 있으며 이를 고객에게 점진적으로 개방하고 있고, 트럼프 행정부와도 활발한 소통을 유지하고 있어 잠재적 수혜자로 여겨지고 있습니다.
더 넓은 관점에서 보면, 이번 사건은 최근 안보 당국에 AI 모델에 대한 규제 권한을 강화하는 행정 명령과 정부의 AI 기업 투자 논의와 맞물려 정부의 AI 산업 통제 강화가 상당히 진행되고 있음을 의미합니다 .
