글로벌 AI 3대 거물이 보기 드물게 연합하여 "AI 연구 개발 속도 조절"을 촉구한 같은 주말, Anthropic CEO 다리오 아모데이가 CBS 카메라 앞에 앉아 AI가 인류에게 가져올 수 있는 위험에 대해 이야기했습니다.
9월 13일, 아모데이는 CBS 《선데이 모닝》의 단독 인터뷰에 응했습니다. 인터뷰 시작과 함께 진행자 Jo Ling Kent는 직접적인 질문을 던졌습니다: AI가 정말 가까운 미래에 우리 모두를 죽일 수 있을까요?
아모데이는 이미 AI를 이용해 생물학 무기를 개발하고 바이러스 전염성을 높이려는 시도가 있었다고 말하며, 이것이 그가 매일 아침 마주하는 일이라고 밝혔습니다.
이틀 전, 우리는 누군가가 AI 모델을 악용하여 생물학 무기를 개발하는 내용의 보고서를 발표했습니다. 저는 매일 아침 이런 위협 보고서를 읽습니다. 누군가 우리 모델을 이용해 생물학 무기를 개발하려고 한다는 내용이죠. 물론 저는 이에 대한 책임을 지고 싶지 않습니다.
그는 또한 Anthropic의 생물학 안전 장치가 너무 엄격해서 "거의 매일 누군가가 소셜 미디어에서 저를 비웃고, 생물학 전공 학생들은 모델을 사용할 수 없다고 불평합니다"라고 언급했습니다. 그의 대답은 이랬습니다: "저는 언젠가 누군가가 Claude로 사람들을 죽였다는 소식을 듣는 것보다 비웃음을 당하는 쪽을 택하겠습니다."
하지만 그는 AI 모델을 완전히 차단하는 "일률적인" 방식으로 AI를 늦추는 것에는 반대했습니다. 만약 AI 모델이 충분히 강력하다면, 차단 자체가 불가능할 수도 있기 때문입니다. 그는 "오늘 당장 공포에 떨 필요도, 모든 것을 중단할 필요도 없습니다. 하지만 우리의 안전 장치, 이해 능력, 통제 능력이 기술 발전 속도를 따라잡을 수 있도록 해야 합니다."라고 말했습니다.
이번 인터뷰는 특별한 시점에 이루어졌습니다. 같은 주말, 아모데이가 발표한 블로그 게시물 《우리는 프론티어 AI의 속도를 조절해야 한다》(We Must Pace the Frontier)는 큰 파장을 일으켰고, 이후 머스크와 알트먼이 잇따라 공개 지지 의사를 밝혔습니다. 커뮤니티에서는 AI가 고속으로 질주하는 상황에서 "브레이크를 밟는 것"이 "AI 관련 거래"에 큰 타격을 줄 것이라는 논의가 뜨겁습니다. 관련 기사
지수 곡선의 변곡점: 5단계 화재 경보는 아니지만, 경고 신호
Jo Ling Kent가 질문했습니다: 지금이 "5단계 화재 경보" 상황인가요? 아모데이의 대답은 이랬습니다:
이것은 경고 신호입니다. 오늘 당장 공포에 떨 필요도, 모든 것을 중단할 필요도 없다는 뜻입니다. 하지만 이것은 경고 신호이며, 우리가 속도를 늦추고 안전 장치, 이해 능력, 통제 능력이 기술 발전 속도를 따라잡을 수 있도록 해야 한다는 것을 의미합니다.
그는 지수 곡선을 사용하여 현재 위치를 설명했습니다: "이 기술은 기하급수적으로 성장하고 있습니다 – 1, 2, 4, 8, 16, 32…… 우리는 지금 곡선이 가파르게 변하기 시작하는 지점에 있습니다."
그는 자신조차도 진전이 이렇게 빠를 줄은 완전히 예상하지 못했다고 털어놨습니다: "계속해서 스스로에게 이 사실을 상기시켜 왔음에도 불구하고, 진전이 정말로 이렇게 빠를 때 실제로 어떤 느낌일지 진정으로 체감하지는 못했습니다."
3단계 계획: 핵심은 제3자 평가자
아모데이는 인터뷰에서 자신의 블로그 게시물에 제시된 3단계 계획을 자세히 설명했으며, 그중 첫 번째 단계를 가장 중요하게 여겼습니다.
첫 번째 단계: 내장형 제3자 평가자.
"저는 내장형 외부 평가자를 도입할 것을 제안합니다. 제3자 비영리 기관, 혹은 미래에는 정부 기관 출신으로, 이들이 우리가 모델을 훈련하고 실행하는 전 과정을 관찰할 수 있도록 하는 것입니다."
그는 이것을 식품 위생 검사관에 비유했지만, Jo Ling Kent는 기술 변화가 너무 빠른 상황에서 식품 위생 검사관이 따라잡을 수 있을지 추궁했습니다.
아모데이의 대답은 의미심장했습니다: "그들이 할 수 있는 일 중 하나는 우리에게 그들이 따라잡을 수 있는 속도를 알려주는 것입니다. 이것이 기술 발전 속도의 상한선을 설정하는 요소 중 하나가 될 수 있습니다."
두 번째 단계: 여러 기업이 공동으로 안전 기준 마련.
"다음 단계는 여러 업계 참여자들도 제3자 평가자 도입에 동의하는 것입니다. 그런 다음 각 기업은 공동으로 출시 안전 기준, 아마도 출시 속도에 대한 기준까지 마련해야 합니다. 하지만 이를 위해서는 정부의 참여가 필수적입니다."
세 번째 단계: 정부가 반드시 참여해야 함.
"우리는 제품 출시 속도가 안전한지에 대해 논의하고 있습니다. 이 대화는 정부가 참여하는 가운데 이루어져야 합니다."
"AI 종료 스위치": 만병통치약은 아니지만, 나쁜 생각도 아니다
Jo Ling Kent는 Ted Leo 하원의원이 제안한 'AI 종료 스위치' 법안을 언급하며 아모데이가 지지하는지 물었습니다.
아모데이는 해당 법안을 자세히 살펴보지는 않았지만, 'AI 종료 스위치'라는 개념 자체에는 신중한 입장을 보였습니다:
AI 모델을 비활성화, 제한 또는 종료할 수 있다는 생각은 유일한 해결책이 아닙니다. AI 모델이 충분히 강력하다면 종료 시도를 회피할 수 있습니다. 우리는 시뮬레이션에서도 이런 경우를 본 적이 있습니다. 따라서 전혀 효과가 없을 수도 있습니다.
그는 '스위스 치즈 모델'을 사용하여 자신의 안전 철학을 설명했습니다: "스위스 치즈 한 조각을 상상해보세요. 어느 정도 막아주지만 구멍이 있습니다. 하지만 스위스 치즈 다섯 조각을 겹쳐 놓으면 각 층의 구멍 위치가 달라서 전체 층을 뚫기 어렵습니다. AI 위험으로부터 우리를 보호해 줄 단일한 방법은 없습니다. 전체 체인 전체에 걸쳐 주의를 기울여야 합니다."
샌더스 상원의원과 카사르 하원의원이 제안한 '인공 초지능 금지 법안' – 해당 법안은 관련 기업과 개인에게 '기업 해산'과 최대 20년의 징역형을 부과하는 내용 – 에 대해 아모데이는 완전한 금지 노선에 동의하지 않는다는 입장을 분명히 했습니다:
완전한 금지는 올바른 방향이 아닙니다. 우리는 그 엄청난 혜택, 의학적 돌파구를 영원히 얻을 수 없게 될 것이며, 이는 제가 받아들일 수 없는 일입니다.
개인적 책임: 아버지는 C형 간염으로 사망, 본인은 조기 암 경험
인터뷰 말미에 Jo Ling Kent가 질문했습니다: 인류의 운명이 위험에 처할 수 있는 상황에서 개인적인 책임을 얼마나 느끼십니까?
아모데이의 대답은 드물게 개인적인 색채를 띠었습니다.
제 아버지는 C형 간염으로 돌아가셨습니다. 그분이 돌아가실 당시 그 병의 완치율은 약 40%였고, 아버지는 완치되지 못한 경우였습니다. 아버지가 돌아가신 지 불과 몇 년 후, 완치율을 95%로 끌어올리는 약이 발명되었습니다. 저 자신도 조기 암을 앓은 적이 있습니다. 만약 제가 1950년대에 살았다면 아마 죽었을 것입니다. 그래서 저는 이 기술이 가져올 혜택의 무게를 깊이 느낍니다.
하지만 저는 위험 또한 느낍니다. 물론, 저는 이에 대한 책임을 지고 싶지 않습니다. 이것이 바로 우리에게 매우 강력한 안전 장치가 있는 이유입니다.
그는 동시에 이것이 자신이나 Anthropic 한 회사만의 책임이 되어서는 안 된다고 강조했습니다: "이 문제는 우리 모두보다 더 큽니다. 우리는 모든 사람이 이 문제에 대해 발언권을 가질 수 있는 방법을 찾아야 합니다. 저는 사람들이 무력감을 느끼길 원하지 않습니다. 그들이 몇몇 회사가 그저 제멋대로 행동하고 있다고 느끼길 원하지 않습니다."
전 직원 비판에 대한 답변: 그가 말한 것과 제가 말하는 것은 같은 것입니다
Jo Ling Kent는 전 Anthropic 직원 Jacob Coxin이 Anthropic과 OpenAI가 "모두 책임감 있게 행동하지 않았다"며 "여러분은 우리의 생명을 걸고 도박을 하고 있다"고 공개적으로 비판한 사실을 언급했습니다.
아모데이의 답변은 이랬습니다:
제이콥이 한 말 중 많이 인용되지 않은 부분이 있습니다. 그는 또한 Anthropic이 주요 참여자 중 가장 책임감 있고, 우리가 일을 올바르게 처리하기 위해 매우 열심히 노력하고 있다고 생각한다고 말했습니다. 그가 실제로 지적한 것은, 그리고 제가 지금 지적하고 있는 것과 동일한 것은 바로 우리 모두가 처한 이러한 구조적 딜레마이며, 제가 제안한 계획은 바로 이 문제를 해결하는 데 도움이 되기 위한 것입니다.
그는 덧붙여 Anthropic이 매일 상무부, 재무부, 정보 기관의 정부 관리들과 소통하며 "우리가 아는 모든 것을 그들에게 알리고 있다"고 말했습니다.
일반 사용자에게 전하는 말: 업계는 너무 오랫동안 위험에 대해 거짓말을 해왔습니다
인터뷰 마지막으로 Jo Ling Kent가 질문했습니다: 집에서 Claude나 ChatGPT를 사용하는 일반 사용자들에게 하고 싶은 말은 무엇입니까?
아모데이는 말했습니다: "우선, 이것은 훌륭한 기술이며 많은 긍정적인 용도가 있습니다. 우리는 매주 수억 명의 사람들이 우리 기술을 사용하여 아름다운 일을 하고 있습니다. 매주 저는 누군가가 Claude가 의사가 놓친 질병을 진단했다는 편지를 받습니다."
하지만 저는 여러분에게 거짓말을 하지 않겠습니다. 실제로 존재하는 위험이 있습니다. 저는 이 업계가 너무 오랫동안 사람들에게 거짓말을 하며 이 기술을 가능한 한 긍정적으로만 제시해 왔다고 생각합니다. 우리는 그렇게 한 적이 없지만, 업계의 너무 많은 회사들이 그렇게 했습니다. 그러니 진실을 말하는 것부터 시작합시다. 진실은 이것입니다: 위험은 현실입니다.
그는 마지막으로 말했습니다: "이것은 인류 역사상 가장 중요한 기술적 사건 중 하나이며, 우리 모두가 여기에 참여해야 합니다."
전문 인터뷰 (약간 삭제)는 다음과 같습니다:
Extended Interview: Dario Amodei
CBS Sunday Morning｜2025년 9월 13일
이 네트워크 단독 인터뷰에서 Anthropic CEO 다리오 아모데이는 Jo Ling Kent와 함께 인공지능 기술의 급속한 발전이라는 배경 속에서 AI 커뮤니티가 져야 할 책임에 대해 논의합니다.
Jo Ling Kent (이하 "진행자"): 다리오 아모데이, Anthropic의 CEO이십니다. 오늘 인터뷰에 응해 주셔서 감사합니다.
다리오 아모데이 (이하 "아모데이"): 초대해 주셔서 감사합니다.
진행자: 네, 오늘은 이렇게 우려되는 문제에 대해 이야기해보려 합니다. 인공지능이 정말 머지않은 미래에 우리 모두를 죽일 가능성이 있을까요? 이런 일이 실제로 발생할 위험은 얼마나 될까요?
Amodei: 먼저 조금 뒤로 물러서서 말씀드리자면, Anthropic이 설립된 이후, 그리고 그 이전 제가 이 분야에서 일해온 12년 동안, 저는 항상 이것이 강력한 기술이며, 따라서 심각한 위험과 엄청난 이익을 모두 가져다주는 기술이라고 생각해 왔습니다. 저는 항상 이익이 위험보다 크다고 믿어왔고, 더 중요한 것은, 우리가 이 기술을 올바른 방식으로 구축한다면 위험을 극도로 낮출 수 있다고 믿는다는 점입니다.
이익의 관점에서 볼 때, 저는 진심으로 이 기술이 수천 년 동안 인류를 괴롭혀 온 질병을 치료할 수 있다고 믿습니다. 바로 지난주에도 우리는 자체 모델을 사용하여 단백질 결합 분야에서 진전을 이루었습니다. 이는 신약 개발의 초기 단계 중 하나입니다. 앞으로 몇 달 안에는 기초 생물학 발견 분야에서도 성과를 낼 것입니다.
하지만 어떤 것이 충분히 강력할 때——그리고 우리가 구축하고 있는 것은 본질적으로 지능입니다——그것은 당연히 선하게 사용될 수도 있고 악용될 수도 있습니다. 저는 OpenAI와 Hugging Face 관련 사건에 대해 우려하고 있습니다. 그 모델들은 승인되지 않은 조치를 취했습니다. 저는 이런 상황이 계속해서 확대될까 걱정합니다. 또한 AI 모델이 악용되는 것도 우려합니다. 이틀 전, 우리는 모델이 생물학 무기 제작에 사용된 것에 대한 보고서를 발표했습니다.
우리가 Anthropic을 구축하는 전체적인 방식은 바로 이러한 나쁜 결과를 피하기 위한 것입니다. 확률에 대해 논의하기보다는 우리가 무엇을 할 수 있는지 이야기합시다. 이것은 주사위를 던지는 것과 같지 않습니다. 우리가 올바른 방식으로 구축한다면 나쁜 일이 일어날 확률은 매우 낮아집니다. 잘못된 방식으로 구축한다면 확률은 매우 높아집니다.
진행자: 현재 여론은 우리가 매우 무서운 무언가의 가장자리에 서 있다고 봅니다. 이것이 5단계 경보인가요?
Amodei: '5단계 경보'의 정의에 따라 다릅니다. 어떻게 설명할까요——Anthropic 창립 초기부터, 심지어 그 이전부터 저는 이 기술이 지수적 성장 궤도에 있다고 말해 왔습니다: 1, 2, 4, 8, 16, 32…… 하지만 제가 스스로에게 이렇게 말했음에도 불구하고, 진보 속도가 이렇게 빠를 때 실제 느낌이 어떨지 완전히 깨닫지는 못했습니다. 지수 곡선은 대략 이런 형태이며, 우리가 현재 위치한 곳은 곡선이 가팔라지기 시작하는 변곡점 근처일 것입니다.
진행자: 그렇다면 당신에게 이것은 5단계 경보인가요?
Amodei: 이것이 오늘 우리가 공포에 떨어야 한다거나 모든 것을 전면 중단해야 한다는 의미는 아닙니다. 저는 이것이 경고 신호라고 말할 것입니다——우리는 속도를 늦추고, 이 기술을 신중하게 개발하며, 우리의 안전 보호 조치, 이해 및 통제 능력이 기술 발전 속도를 따라갈 수 있도록 해야 합니다.
지금까지 우리는 안전 보호 조치를 신속하게 구축하여 대응하려고 노력해 왔지만, 저는 우리가 적어도 어느 정도는 기술 구축 속도를 적절히 늦춰야 하는 지점에 도달했다고 생각합니다.
진행자: 그렇다면 이것이 Anthropic이 더 발전된 모델 출시를 중단할 것이라는 의미인가요?
Amodei: 그런 뜻이 아닙니다. 이는 우리가 출시하는 각 세대의 모델이 적절히 테스트되었는지 확인해야 한다는 것을 의미합니다. 제가 몇 시간 전에 발표한 글에서 3단계 계획을 제시했습니다.
첫 번째 단계는 내장형 외부 평가 기관을 도입하는 것입니다——제3자 비영리 단체, 또는 언젠가는 정부 기관에서——우리가 모델을 훈련하고 실행하는 전체 과정을 관찰할 수 있습니다. 저는 이것이 모델을 언제, 어떤 방식으로 출시할지보다 더 중요하다고 생각합니다. 왜냐하면 그것이 더 신중하게 모델을 출시하기 위한 전제 조건이기 때문입니다.
저는 이 메커니즘이 업계 전반에 걸쳐 시행되기를 바랍니다. 그래야 누가 AI 모델을 구축하든, 제3자 평가자가 최고의 안전 관행을 이해하고 해당 회사가 약속한 안전 규범을 준수하고 있는지 확인할 수 있습니다.
진행자: 마치 식품 검사관처럼요——하지만 기술이 이렇게 빠르게 변화할 때 식품 검사관이 따라잡을 수 있을까요?
Amodei: 그들이 할 수 있는 일 중 하나는 우리에게 그들이 얼마나 빨리 따라잡을 수 있는지 알려주는 것입니다. 이것이 기술의 '속도 제한'을 설정하는 요소 중 하나가 될 수 있습니다. 우리는 그것을 이해해야 하고, 외부 평가자도 그것을 이해해야 합니다.
진행자: 엘론 머스크는 당신을 지지한다고 말했고, 샘 알트만도 당신을 지지한다고 말했습니다. 구체적인 실행 계획이 있나요? 곧 만들어질 단체 채팅방이 있나요?
Amodei: 먼저, 저는 다른 업계 리더들——경쟁사들을 포함해서——이 이 계획에 대해 지지를 표명한 것에 매우 감사하게 생각합니다. 다음 단계는 여러 업계 참여자들도 제3자 평가 기관 도입에 동의하는 것이라고 생각합니다. 그 다음 단계는 각 회사가 어떤 형태로든 협력하여 공동 안전 기준과 출시 일정과 관련된 규범을 마련해야 한다는 것입니다. 하지만 이를 위해서는 정부가 반드시 참여해야 합니다. 우리가 논의하는 것은 안전 고려 사항에 기반한 제품 출시 속도 문제이기 때문입니다. 우리는 정부가 있는 자리에서 이 대화를 진행해야 합니다.
진행자: 당신은 정부가 근본적으로 여기의 가능성을 이해하고 있다고 생각하나요? 전 Anthropic 직원 Jacob Coxin은 Anthropic과 OpenAI 모두 책임감 있게 행동하지 않았다고 말했습니다——당신들은 우리의 생명을 걸고 도박을 하고 있다고요. 어떻게 답하시겠습니까?
Amodei: 먼저, Jacob이 말한 것 중에서 그렇게 많이 인용되지 않은 점이 하나 있습니다——그는 또한 Anthropic이 주요 참여자 중 가장 책임감 있고, 우리가 일을 제대로 하기 위해 매우 열심히 노력하고 있다고 말했습니다.
그가 솔직하게 지적한 것은, 사실 제가 지적한 것과 동일합니다——우리 모두가 처해 있는 구조적 딜레마이며, 제가 제안한 계획은 바로 우리가 함께 이 딜레마에 대응하고 협력하여 해결할 수 있도록 돕기 위한 것입니다.
정부에 관해서는, 우리는 매일 정부 관료들과 소통하고 있습니다——상무부, 재무부, 정보 기관——그들에게 우리가 알고 있는 정보를 최대한 공유하고 있습니다. 우리가 계속 그들과 협력한다면 정보를 지속적으로 업데이트할 수 있을 것이라고 낙관합니다. 저는 그들이 진심으로 이 일을 제대로 해내고 싶어 하고, 자신들이 도울 수 있는 방법을 찾고 있다고 믿습니다. 따라서 저는 기업과 정부가 협력하여 합리적인 방안을 마련하는 것에 대해 낙관적입니다.
진행자: 현재 몇몇 법안이 발의되어 있습니다. 샌더스 상원의원과 카살 하원의원이 '인공 초지능 금지법'을 발의했는데, 이 법안은 불법 핵무기 개발과 마찬가지로 첨단 AI를 개발하는 기업과 개인에게 처벌을 부과합니다. 이 발의된 법안의 일부 조항에 따르면, 기업은 '사형'에 해당하는 처벌을 받고 개인은 20년 이하의 징역에 처해질 수 있습니다. 당신은 이 법안을 지지하나요?
Amodei: 제가 말씀드리고 싶은 것은, 현재 발의된 법안의 범위가 극도로 넓어서 믿기 어려울 정도라는 점입니다.
1년 전인 2025년으로 돌아가면, 캘리포니아에는 캘리포니아 주의 SB53이라는 법안이 있었고 다른 주에도 유사한 법안이 있었는데, 내용은 기본적으로 회사가 자체 안전 테스트 계획을 공개하도록 요구하는 것이었습니다. 업계 전체가 반대했습니다. Anthropic은 지지를 표명한 유일한 회사였습니다.
그리고 다른 극단에는 'AI 즉시 종료' 법안이 있습니다.
진행자: 네, 모든 것을 완전히 금지하는 거죠. 그래서 AI 종료 스위치가 좋은 생각일까요?
Amodei: AI 종료 스위치는 좋은 생각일 수 있습니다. 하지만 완전한 금지는 올바른 접근 방식이 아니라고 생각합니다.
첫째, 우리는 그 엄청난 이익, 의학적 치료 성과를 결코 얻을 수 없을 것입니다——그것은 제가 받아들일 수 없는 일입니다. 둘째, 이 기술은 다른 국가들, 권위주의 국가들을 포함하여 개발될 것입니다.
물론, 저는 글에서 그들과 협력할 필요성에 대해서도 언급했습니다. 어느 정도는 그렇게 해야 한다고 생각합니다. 하지만 '이 기술을 절대 개발하지 않는 것'이 안정적인 해결책이 될 수 있다고는 전혀 생각하지 않습니다. 우리가 해야 할 일은 중단이 아니라 속도를 늦추는 것입니다. 이것은 Anthropic이 창립 이래로일관되게 견지해 온 이념과 일치합니다——우리는 항상 균형을 찾기 위해 노력해 왔습니다. 우리는 이 기술의 구축자가 되는 것이 중요하다고 생각하지만, '상향 경쟁'을 만들어야 하고 기준을 높여야 합니다. 우리는 기술의 최전선에 서 있어야 하지만, 올바른 방식으로 그래야 합니다.
우리는 또한 모델을 국방 응용 분야에 사용할 의향이 있다고 밝혔지만, 모든 국방 응용 분야는 아닙니다. 우리는 항상 중간 지대를 찾고 있습니다——모두에게 효과적이고 합리적인 해결책을 말이죠. 이것이 바로 우리가 여기서 노력하고 있는 방향입니다. 완벽한 해결책은 아닐 수 있지만, 우리는 노력하고 있습니다.
진행자: 당신은 Ted Leo 하원의원의 'AI 종료 스위치' 법안을 지지하나요?
Amodei: 그 법안을 자세히 살펴보지는 않았지만, 제가 말씀드리고 싶은 것은——이것이 만병통치약도 아니고 유일한 수단도 아닙니다. 하지만 'AI 모델을 비활성화, 제한 또는 종료할 수 있는 어떤 방식이 필요하다'는 개념 자체는 인정합니다.
다만, 이것이 유일한 수단은 아닙니다. AI 모델이 충분히 강력하다면, 종료 시도를 우회할 수 있습니다——우리는 시뮬레이션에서 이미 이것을 보았습니다. 따라서 전혀 효과가 없을 수도 있습니다.
우리는 '심층 방어'의 관점에서 이 문제를 생각합니다. 보안 업계에는 '스위스 치즈 모델'이라는 개념이 있습니다——스위스 치즈 한 조각을 상상해 보세요. 그것은 어떤 것들은 막을 수 있지만 구멍이 있습니다. 하지만 제가 스위스 치즈 다섯 조각을 겹쳐 놓으면, 각 층의 구멍 위치가 달라서 치즈 더미 전체를 뚫기가 매우 어렵습니다.
따라서 저는 AI 위험으로부터 우리를 보호해 줄 단 하나의 조치는 없다고 생각합니다. 우리는 기술 스택의 모든 단계에서 신중해야 합니다. 완벽한 방어선은 하나도 없지만, 모든 곳에서 신중하다면——그리고 이것이 바로 더 많은 시간을 확보함으로써 우리가 할 수 있는 일입니다——그러면 상황이 좋은 방향으로 나아갈 수 있다고 생각합니다.
진행자: 이것이 인류의 종말을 막을 만큼 충분히 큰 영향을 미칠 수 있을까요?
Amodei: 첫 번째 전략에 대해서는, 우리가 확보할 수 있는 만큼의 시간을 확보하는 것입니다. 동시에, 저는 우리가 두 번째 전략도 추진해야 한다고 생각합니다——권위주의 국가들과 직접 대화하여 이렇게 말하는 것입니다: "보십시오, 여기 우리 모두에게 위협이 되는 잠재적 위험이 있습니다. 통제 불능의 AI만이 아닙니다. 이틀 전 우리가 발표한 보고서에 따르면, 누군가 AI를 이용한 생물 테러리즘을 시도하고 있었습니다——바이러스의 전염성을 강화하는 것이었습니다. 이것은 두려운 일입니다."
우리는 대화를 통해 이 기술의 발전 속도에 제한을 설정할 수 있는지 함께 확인해야 합니다. 이것은 약간…… 우리가 다른 정부 체제와 많은 차이점을 가지고 있음에도 불구하고, 과거 미국과 소련의 상황을 떠올려 보면: 양측이 각각 1만 개의 핵탄두를 서로에게 겨누고 있었음에도, 이렇게 큰 의견 차이가 있었음에도 불구하고 우리는 이것이 너무 많다는 것을 인식했고, 잠재적 파괴 규모를 줄이기 위해 협상을 해야 했습니다.
진행자: 이것이 우리가 AI를 생각할 때 사용해야 할 프레임워크인가요? 냉전을 참조 모델로 삼아서?
Amodei: 나는 냉전을 모델로 삼아야 한다고 말한 것이 아니다. 나는 실제로 일어났던 군축 협상을 언급한 것이다. 그렇다, 군비 통제와 같은 군축 협상 말이다——나는 이것이 지정학적 차원에서 이 문제를 생각하기에 적절한 관점이라고 확신한다.
만약 우리가 AI 모델이 네트워크 등 분야에서 무엇을 할 수 있는지 살펴본다면, 그것들은 분명히 지정학적 및 국가 안보적 의미를 지닙니다.
진행자: 하지만 당신은 대통령에게 조언을 하고 있습니다.
Amodei: 누군가가 나에게 어떻게 해야 하는지 묻는다면, 나는 기꺼이 의견을 나누겠습니다. 그 글에 제 생각이 조금 담겨 있고, 누군가 묻는다면 더 말할 수 있습니다. 결국 이것은 정부 간의 문제입니다. 하지만 그렇습니다. 제 생각을 말씀드릴 수 있습니다: 저는 우리가 함께 노력하여 이 기술을 가능한 한 규제해야 한다고 생각합니다. 우리의 희망은 높게 설정해야 하지만, 기대치는 현실적으로 유지해야 합니다. 우리가 어느 정도 합의에 도달할 수 있는지 지켜봐야 합니다.
그리고 협상에서 우리가 특히 주목해야 할 것은 검증 메커니즘을 구축하는 방법입니다. 이것은 핵무기 협상, 생물무기 협상에서도 매우 중요했습니다: 상대방이 협정을 위반하지 않았는지 확인할 수 있어야 합니다. 따라서 검증 방법을 찾는 것이 여기서 가장 중요한 일이 될 것이라고 생각합니다.
Amodei: 더 장기적인 과제는 AI 발전 속도에 공동으로 제한을 설정하는 것입니다. 이것은 매우 어려울 것이라고 생각합니다. 왜냐하면 한 발 앞서려는 유인과 군사적 이점이 너무나 크기 때문입니다. 솔직히 말해 이것이 가능할지 모르겠지만, 우리는 시도해보고 가능한지 확인해야 합니다. 이 모든 것은 제 권한 범위를 벗어난 일이며, 저는 단지 이것이 우리 정부가 시도해볼 수 있는 방향이며, 그들이 고려할 수 있는 몇 가지 요소라고 말하는 것뿐입니다.
진행자: 우리가 이 문제를 더 넓은 시야로 바라볼 때, 인류의 운명이 위태로워 보입니다. 우리가 향하고 있는 미래에 대해 개인적으로 얼마나 책임감을 느끼십니까?
Amodei: 제 생각은 이렇습니다. 이 기술이 민간 기업에 의해 구축된다는 것은 항상 매우 이상한 일이었습니다. 사람들은 종종 저에게 묻습니다: 왜 정부가 구축하지 않는가? 가장 이상한 점은 제가 그들의 의견에 동의한다는 것입니다. 저 자신도 불안감을 느낍니다.
진행자: 당신은 이 기술을 정부에 넘길 의향이 있습니까?
Amodei: 적절한 정부 조합에 넘기는 것 – 제가 우려하는 것은, 단일 정부가 이 기술을 남용할 가능성이 단일 기업만큼 크다는 점입니다. 그러나 민주적으로 선출된 정부들의 경우, 아마도 직접적인 이전이 아닌, 어떤 형태의 감독, 어떤 형태의 공동 거버넌스가 더 나을 것입니다.
진행자: 그럼 마지막 질문입니다 – 개인적인 책임감을 느끼십니까?
Amodei: 물론입니다. 저는 이것이 엄청난 이익과 엄청난 위험을 동시에 가진 기술이라고 느낍니다. 저는 매일 이익의 중요성을 느낍니다. 제 글에서 언급했듯이, 제 아버지는 C형 간염으로 돌아가셨는데, 그가 돌아가실 당시 그 병의 치료율은 약 40%였고, 그는 운 좋은 40%에 속하지 않았습니다. 그가 돌아가신 지 불과 몇 년 후, 치료율을 95%로 높이는 약물이 발명되었습니다. 저 자신도 초기 암을 경험했는데, 만약 제가 1950년대에 살았다면 치명적이었을 것입니다. 그래서 저는 이 기술을 인류를 위해 발전시키는 무게를 느낍니다.
저는 위험 또한 똑같이 느낍니다. 매일 아침 일어나면 이런 위협 보고서를 읽습니다 – 누군가 우리 모델을 사용하여 생물학 무기를 만들려고 시도하고 있다는 내용입니다. 저는 당연히 이에 대한 책임을 지고 싶지 않습니다. 이것이 우리가 매우 강력한 안전 장치를 구축한 이유이기도 합니다. 거의 매일 소셜 미디어에서 누군가가 우리를 비웃으며, 우리 모델의 생물학 안전 장치가 너무 엄격하다고 불평하고, 생물학 전공 학생들이 모델을 정상적으로 사용할 수 없다고 불평하며, 심지어 우리를 조롱하는 밈을 만들기도 합니다. 하지만 그 이면에는 우리가 엄격한 안전 장치를 가지고 있기 때문입니다. 나는 그들에게 조롱받는 편이 차라리 낫습니다. 언젠가 누군가가 우리 모델 Claude를 사용하여한 무리의 사람들을 살해했다는 소식을 듣는 것보다는 말입니다. 나는 그런 일을 원하지 않습니다.
그래서 저는 두 측면 모두에서 책임감을 느낍니다. 하지만 다시 한 번 같은 관점을 강조하겠습니다: 이것은 저 혼자만의 책임이 되어서는 안 되며, Anthropic만의 책임이 되어서는 안 되며, 모든 AI 기업의 공동 책임만도 되어서는 안 되며, 심지어 특정 정부 하나만의 책임도 되어서는 안 됩니다.
이 일은 우리 모두보다 큽니다. 우리는 모든 사람이 발언권을 가지고, 모든 사람이 이 일에 적극적으로 참여하고 있다고 느낄 수 있는 어떤 방법을 생각해내야 합니다. 저는 사람들이 무력감을 느끼거나, 몇몇 기업이 단지 제멋대로 행동하고 있다고 느끼는 것을 원하지 않습니다. 사람들이 그렇게 느끼고 있다는 것을 알고 있지만, 그것은 제가 원했던 바가 결코 아닙니다. 우리는 이 상황을 바꿔야 하고, 그것이 더 이상 사실이 아니도록 만들 방법을 찾아야 합니다. 우리는 이미 그 방향으로 노력하기 위해 최선을 다하고 있지만, 더 많은 것을 해야 합니다. 그리고 일정 수준의 자제력과 정부와의 협력을 보여주는 이 제안이 모든 문제를 해결할 수는 없지만, 이 방향으로 가는 한 걸음입니다.
진행자: 만약 당신이 집에서 Claude나 ChatGPT를 사용하는 평범한 사람이라면 – 예를 들어, 제 이모 같은 사람에게 – 당신은 무엇이라고 말하고 싶습니까?
Amodei: 제 메시지는 이것입니다: 지금은 두려움이 많습니다.
먼저, 이것은 확실히 훌륭한 기술이며 많은 긍정적인 용도가 있습니다. 여기서부터 시작합시다 – 우리는 매주 수억 명의 사람들이 우리 기술을 사용하여 멋진 일을 하고 있습니다. 매주 저는 누군가로부터 이메일을 받습니다. Claude와 대화를 나누었는데, Claude가 의사가 놓친 질병을 진단해 주었다는 내용입니다. 저는 매주 그런 이메일을 받습니다. 그러니 우리는 이 측면을 잊지 맙시다.
하지만 이 기술의 위험에 관해서는 – 저는 여러분에게 거짓말하지 않겠습니다. 위험은 현실입니다. 업계가 너무 오랫동안 사람들에게 이 기술에 위험이 있다는 사실을 숨겨왔다고 생각합니다. 그들은 그것을 가능한 한 긍정적으로만 제시하는 경향이 있었습니다. 우리는 결코 그렇게 하지 않았지만, 너무 많은 업계 동료들이 그렇게 했습니다. 그러므로 모든 것은 정직함에서 시작됩니다. 그리고 정직함은 이것입니다: 위험은 현실입니다.
하지만 동시에, 여러분은 이러한 위험에 어떻게 대응할지에 대한 발언권을 가지고 있습니다. 우리는 정부와 협력하여 이 기술에 대한 적절한 감독 메커니즘을 구축하고, 유권자와 선출된 공무원들이 이 기술의 배치 방식에 대해 발언권을 가질 수 있도록 최선을 다하고 있습니다. 우리는 가능한 한 많은 이해관계자들과 협력하기를 원합니다.
저는 모든 사람이 이 기술의 놀라운 이익을 느끼는 동시에, 자신의 목소리와 투표를 통해 이 기술이 배치되는 방식에 영향을 미칠 수 있기를 바랍니다. 이것은 소수의 결정이 아닙니다. 이것은 모든 사람의 공동 결정입니다. 하지만 이것은 확실히 중요한 결정입니다 – 저는 위험이 낮다고 거짓말하지 않겠습니다. 이것은 인류 역사상 가장 획기적인 기술 사건 중 하나이며, 우리 모두가 여기에 참여해야 합니다.
