JP모건 CEO, Anthropic에 따져 묻다: 9,000억 달러 컴퓨팅 베팅 이면의 AI 기업 생존 법칙

  • Anthropic CEO는 9000억 달러 규모의 컴퓨팅 선행 약속이 가장 어려운 사업 과제라며, 1~2년 전 구매가 불가피하다고 밝혔다.
  • 매출은 2024·2025년 각각 약 10배 성장했지만, 회사는 수요 예측이 어려워 보수적으로 확보 후 초과분만 현물시장에서 사는 전략을 쓴다.
요약

게스트: 다리오 아모데이(Dario Amodei), Anthropic 공동 창업자 겸 CEO

진행: 제이미 다이먼(Jamie Dimon), JP모건 회장 겸 CEO

편역: 佳欢, ChainCatcher

Anthropic이 상장을 준비하는 가운데, CEO 다리오 아모데이는 JP모건 CEO 제이미 다이먼과 공개 대담을 나눴다.

다이먼은 Anthropic이 컴퓨팅, 임대, 데이터센터 등과 관련해 약 9,000억 달러 규모의 장기 약정을 공시했다고 언급하며, 회사가 장기적으로 충분한 컴퓨팅을 확보하면서 동시에 비용을 통제할 수 있는지 따져 물었다.

아모데이는 컴퓨팅을 Anthropic이 직면한 "가장 심층적인 비즈니스 난제"라고 불렀다. 회사는 1~2년 앞서 컴퓨팅을 구매해야 하지만, 기술 진보가 언제 매출로 전환될지는 판단하기 어렵다. 많이 사면 재무 부담이 생길 수 있고, 적게 사면 고객 수요를 충족하지 못할 뿐 아니라 차세대 모델 연구개발에도 영향을 준다.

컴퓨팅과 상장 외에도 두 사람은 Anthropic의 기업 문화, Claude의 상업적 활용, 에이전트 안전, AI 모델 가격 경쟁, 그리고 AI가 의학과 과학 연구를 진전시킬 수 있는지에 대해서도 이야기했다.

핵심 요점:

  • 컴퓨팅이 가장 큰 비즈니스 난제다. 아모데이는 Anthropic의 매출이 2024년과 2025년 모두 약 10배 성장했지만, 회사는 여전히 다음 해 수요를 예측하기 어렵고 컴퓨팅은 1~2년 앞서 구매해야 한다고 말했다.
  • Anthropic은 컴퓨팅을 다소 보수적으로 구매하는 편이다. 회사는 미리 낮은 비용으로 일부 컴퓨팅을 확보하고, 사업이 예상을 초과하면 가격이 더 높은 현물 시장에서 보충한다. 그는 이 전략을 보험 가입에 비유했다.
  • 상장의 중요한 이유는 현금 보유고를 늘리는 것이다. 아모데이는 현금이 충분할수록 다양한 컴퓨팅 수요 시나리오에서 회사의 완충 여력이 커지고, 생물학·로봇·사이버보안 분야의 기회를 잡을 능력도 커진다고 본다.
  • AI 경쟁은 챗봇에 그치지 않는다. 아모데이는 프런티어 모델의 능력이 돌파할 때마다 새로운 시장이 생길 수 있다고 본다. 챗봇과 프로그래밍에 이어 과학적 발견, 생명과학, 로봇, 사이버보안이 더 큰 시장이 될 수 있다.
  • 에이전트 도입의 핵심 제약은 안전이다. 그는 Anthropic이 기업 고객을 선택한 이유 중 하나가 기업이 신뢰, 장기 관계, 평판을 중시한다는 점이라며, 이것이 회사의 상업적 인센티브와 안전 목표를 더 쉽게 일치시켜 준다고 말했다.
  • 사이버보안의 병목은 취약점 발견에서 취약점 수정으로 옮겨가고 있다. 아모데이는 고객과 Anthropic이 각각 수십만 개의 취약점을 발견했지만 수정 속도가 발견 속도를 따라가지 못한다고 말했다. 향후 6~12개월 동안 방어용 에이전트 군집의 활용이 늘어날 수 있다.
  • Anthropic은 회사 지분 5%를 공익 기금에 편입할 계획이다. 아모데이는 AI가 만든 신규 부가 소수 기업에 집중되는 것을 우려하며, 기금은 노동 전환과 생물보안 등의 문제에 관심을 둘 수 있고 구체적 방향은 여전히 검토 중이라고 말했다.

인재와 문화가 Anthropic의 경쟁 우위

제이미 다이먼: OpenAI에서 일하셨고 이 분야의 초기 참여자이기도 합니다. 지금은 전 세계 많은 기업이 AI를 하고 있는데, Anthropic은 다른 기업들과 어떻게 차별화되나요?

다리오 아모데이: 저는 이 분야의 여러 주요 기업에서 일했고, 왜 어떤 프로젝트는 성공하고 어떤 프로젝트는 그렇지 못한지 계속 생각해 왔습니다. 여러 해가 지난 뒤 내린 결론은 인재와 문화가 가장 중요하다는 것입니다.

인재와 문화가 기술을 만들고, 기술이 제품을 만들며, 제품이 시장 확장과 영업, 그리고 회사의 다른 사업을 이끕니다. 대중이 한 회사를 어떻게 보는지도 기술을 만드는 사람들과 그들의 초심과 관련이 있습니다.

Anthropic을 창업할 때 저와 다른 여섯 명의 공동 창업자는 첫날부터 인재와 문화를 중요한 위치에 두기로 결정했습니다. 모든 후보자는 문화 면접을 거칩니다. 기술 역량이 매우 뛰어나더라도 회사 문화에 맞지 않는 사람은 과감히 거절합니다.

우리는 팀에 다른 사람을 존중하지 않거나, 주목만 받고 싶어 하거나, 다른 사람과 협업하지 못하는 사람이 들어오는 것을 원하지 않으며, 직원들이 공공의 이익에 공감하기를 바랍니다. 단기적으로는 이런 기준을 고수하면 채용이 어려워질 때도 있지만, 장기적으로는 모든 사람이 같은 편에 서게 만듭니다.

한 회사의 어려움은 종종 뛰어난 사람이 없는 것이 아니라, 뛰어난 사람들이 함께 일하지 못하는 데서 옵니다. 서로 다른 팀이 다투고, 결국 에너지를 모두 내부에서 소모합니다.

Anthropic에서는 중요한 목표가 등장하면 모델 훈련이든, 안전 목표 달성이든, 제품 개발이든, 정책 업무 추진이든 회사 전체가 이 목표를 중심으로 협력할 수 있습니다.

우리는 직원 유지 상황에서도 그 결과를 확인합니다. 다른 회사에서 Anthropic으로 옮겨온 직원이 Anthropic을 떠난 사람보다 많고, 일곱 명의 공동 창업자는 지금까지 전원이 회사에 남아 있으며, 가장 먼저 합류한 100명의 직원 중 4분의 3 이상이 여전히 여기에 있습니다. 떠난 사람도 자주 다시 돌아옵니다. 한번은 중요한 제품 담당자 두 명이 퇴사한 지 2주도 되지 않아 돌아와, 자신이 무엇을 갖고 있었는지 미처 몰랐다고 말했습니다.

저는 대략 시간의 40~50%를 인재와 문화에 씁니다. 2주에 한 번, 전사 구성원 앞에서 Dario Vision Quest라는 내부 행사에 참여합니다. 회사에서 무슨 일이 일어나고 있는지 솔직하게 알리고, 문제를 숨기지 않으며, 가급적 관료적인 말투를 쓰지 않으려 하고, 다른 관리자들에게도 그렇게 하도록 권합니다.

경영진이 직원을 신뢰하고, 직원도 경영진이 솔직하게 소통할 것이라고 믿습니다. 이 신뢰에는 큰 가치가 있습니다.

Claude는 어떤 산업으로 진입하고 있나?

제이미 다이먼: JP모건은 Anthropic의 대형 고객 중 하나입니다. Claude는 우리에게 큰 변화를 가져왔고, 현재 25만 명의 직원이 매주 여러 방식으로 여러 번 사용하고 있습니다. 다른 포춘 100대 기업들은 Claude를 어떻게 사용하고 있나요?

다리오 아모데이: Claude는 다양한 산업에서 활용되고 있습니다. 이 기술의 가장 놀라운 특징 중 하나는 범용성입니다. 인지 또는 지능에 대한 '무어의 법칙'이라고 이해할 수 있습니다.

고객과 대화하면서 저는 예전에 잘 몰랐던 많은 산업을 접했고, Claude가 그 산업에서 어떤 역할을 할 수 있는지 보게 됩니다.

가장 먼저, 가장 빠르게 채택된 분야는 프로그래밍입니다. 저와 대부분의 공동 창업자는 과거에 코드를 많이 작성했는데, 지금 모델이 해낼 수 있는 작업을 보면 여전히 놀랍습니다. 거의 모든 포춘 100대 기업이 대규모 프로그래밍 수요를 갖고 있어서, 프로그래밍이 보통 이들이 Claude를 가장 먼저 쓰는 분야입니다.

이후 적용 범위는 더 넓은 지식 노동으로 확장됐습니다. 금융 서비스 분야에서 Claude는 간단한 문서 작업을 처리하고 더 복잡한 전략 업무도 지원할 수 있습니다. 보험과 법률 분야에서는 계약서를 작성하고 계약서의 문제점을 찾아냅니다.

생명과학은 제가 특히 주목하는 분야로, 임상 연구 보고서 작성, 기초 연구 지원, 단백질 결합 예측, 제조 효율 향상, 기초 생물학 연구 지원 등에 활용됩니다.

이커머스 분야에서는 일부 기업이 Claude를 소비자 직접 대면 에이전트로 배포했습니다. 제조업도 마찬가지로, 점점 더 많은 기업이 Claude로 효율을 높이기 시작했으며 반도체 제조와 실물 건설 등이 적용 범위에 포함됩니다.

에이전트가 기업으로 들어가려면 먼저 안전 문제를 풀어야

제이미 다이먼: 에이전트를 언급하셨습니다. 규제를 받는 기업이 에이전트에게 민감한 정보에 접근하도록 허용하기 전에 무엇을 준비해야 하나요?

다리오 아모데이: 가장 중요한 것은 안전입니다. 에이전트의 능력은 빠르게 향상되고 있습니다. 생명과학 연구를 수행하거나 복잡한 소프트웨어 아키텍처를 작성할 수 있는지가 유일한 난제가 아니라, 기술 개발과 내부 배포, 고객 사용을 실제로 제약하는 것은 이런 능력을 어떻게 안전하게 사용하느냐입니다.

우리는 에이전트가 통제를 벗어나는 것을 원하지 않습니다. 따라서 Anthropic은 모델 훈련 단계부터 적절한 안전 및 정렬(alignment) 체계를 구축하는 데 막대한 자원을 투입했습니다.

우리는 규모가 큰 정렬 팀을 두고 이런 문제에 항상 경계하고 있습니다. 몇 달마다 안전·보안·정렬 작업을 다시 검토하고 투자를 늘립니다.

Anthropic은 처음부터 기업 고객에 집중했습니다. 기업이 소비자보다 안전 문제를 더 중시하는 경우가 많고, 기업 사업이 우리의 안전 목표와 시너지가 있다는 것을 알고 있었습니다.

우리가 안전을 중시하는 이유는 이 기술을 올바른 방식으로 개발해야 한다고 생각하기 때문입니다. 동시에 어떤 비즈니스 모델이 우리에게 안전을 추구할 더 강한 동기를 줄 수 있는지도 고민했습니다. 답은 기업 사업입니다. 기업은 신뢰, 장기 협력, 자사 평판을 중시하며 모델이 심각한 피해를 일으키기를 원하지 않습니다.

이것이 우리의 상업적 인센티브를 우리가 실현하고자 하는 사회적 목표에 더 잘 일치시켜 줍니다.

제이미 다이먼: 우리가 정말 에이전트의 권한을 통제할 수 있을까요? 예를 들어 민감한 시스템에 접근하도록 허용하면서도 A, B, C, D 작업만 수행하고 다른 것은 할 수 없도록 보장할 수 있나요?

다리오 아모데이: 자율주행 기술 발전과 비슷합니다.

자율주행은 잠재적 가치가 막대하며, 궁극적으로는 사람이 운전하는 것보다 훨씬 안전해질 수 있습니다. 하지만 우선 기술이 충분히 신뢰할 수 있는 수준에 도달해야 하고, 올바른 보호 장치를 구축하고, 시스템을 올바른 방식으로 설계해야 합니다.

우리는 100% 보장을 제공할 수 없습니다. 자율주행차가 얼마나 많은 사람이 이용하든 절대 사고가 나지 않는다고 말할 수는 없습니다. 그러나 시스템을 인간의 조작보다 몇 배, 수백 배, 심지어 그 이상 안전한 수준으로 만들기 위해 노력할 수 있습니다.

9,000억 달러 약정의 이면: 컴퓨팅은 많이 사도 적게 사도 난제

제이미 다이먼: Anthropic은 컴퓨팅, 임대, 데이터센터 등과 관련해 약 9,000억 달러의 장기 약정을 공개했습니다. 또 이런 이야기도 봤습니다. 약 80%의 컴퓨팅이 새 모델 훈련에 쓰이고 추론에는 20% 정도만 쓰인다는 것입니다. 그런데 우리 같은 고객이 사용하는 것은 주로 추론 서비스입니다.

앞으로 필요한 컴퓨팅을 확보하면서 동시에 비용 효율을 유지하려면 어떻게 해야 하나요?

다리오 아모데이: 컴퓨팅은 Anthropic이 직면한 가장 심층적인 비즈니스 난제입니다.

이 분야의 기술 발전은 매우 빠르지만, 기술 진보가 어느 속도로 상업적 가치로 전환될지는 알 수 없어 불확실성이 매우 큽니다.

2024년과 2025년에 Anthropic의 매출은 매년 약 10배씩 성장했습니다. 하지만 매년 우리는 스스로에게 묻습니다. 내년에는 무슨 일이 일어날까? 우리도 모릅니다. 회사 규모가 커지면서 관련 금액도 점점 커지고 있습니다.

동시에 컴퓨팅은 1~2년 앞서 구매해야 합니다. 얼마나 살지는 회사가 감당할 수 있는 비용에 달려 있습니다.

너무 많이 사면 회사가 과도한 재무 부담을 질 수 있고, 너무 적게 사면 고객에게 충분한 추론 서비스를 제공할 수 없습니다. 더 중요하게는 컴퓨팅 부족이 연구개발에도 영향을 주는데, 연구개발은 6개월이나 1년 후 어떤 모델을 내놓을 수 있는지, 그리고 회사가 미래에 매출을 창출할 능력을 결정합니다.

우리는 주로 두 가지 측면에서 완충 공간을 확대합니다.

첫째는 매출총이익률입니다. 매출총이익률이 높을수록 컴퓨팅을 많이 또는 적게 살 때 조정할 여지가 커집니다. 간단히 말해, 이는 컴퓨팅 비용과 회사가 그 컴퓨팅으로 창출한 매출의 차이를 반영합니다. 증권신고서에 따르면 우리의 매출총이익률은 상당히 좋은 편이며, 특히 업계 다른 기업과 비교하면 그렇습니다.

둘째는 대차대조표상의 현금입니다. 우리는 현재 많은 현금을 보유하고 있고, 현금 보유고를 계속 늘리고 싶습니다.

다만 이런 완충에도 불구하고 회사의 장기 약정은 여전히 큽니다. 이 약정들이 여러 해에 걸쳐 있고 매출도 빠르게 성장하고 있지만, 금액 자체는 적지 않습니다.

따라서 우리가 택한 전략은 상대적으로 보수적으로 컴퓨팅을 조달하는 것입니다. 미리 낮은 비용으로 일부 컴퓨팅을 확보합니다. 사업 성과가 예상보다 낮으면 이미 비용을 통제해 둔 상태이고, 성과가 예상을 크게 웃돌면 현물 시장에서 추가 컴퓨팅을 살 수 있습니다.

현물 컴퓨팅은 더 비싸지만, 사업 성과가 특히 좋을 때만 구매합니다. 보험에 가입하는 것과 비슷합니다. 여러 상황에서 보장을 받기 위해서는 추가적인 유연성에 비용을 지불해야 합니다.

우리는 이 전략이 필요할 때 연구개발에 계속 투자하고 성장 기회를 잡을 수 있게 하면서, 사업 성과가 예상에 못 미칠 때 보호 장치를 제공한다고 믿습니다.

저렴한 모델이 늘어난다면, AI는 상품이 될까?

제이미 다이먼: 점점 더 많은 기업이 토큰을 구매하고 있습니다. 그리고 많은 기업이 곧 깨닫습니다. 많은 작업에는 비싼 모델이 필요 없고 더 저렴한 모델과 토큰으로 충분하다는 것을요. 이 부분 서비스는 점차 표준화된 상품이 될 수 있습니다. 이 판단에는 무슨 문제가 있나요?

다리오 아모데이: 첫째, 프런티어 모델의 능력 경계가 확장될 때마다 완전히 새로운 시장이 생길 수 있습니다.

사람들이 익숙한 시장 발전 경로는 이렇습니다. 초기에는 많은 스타트업이 있고 고객이 높은 가격을 지불할 의향이 있습니다. 시장이 성숙하면서 제품이 점차 상품화되고, 모두가 해자와 더 저렴한 대안을 논의하기 시작합니다.

AI의 특정 응용 분야에서는 이런 일이 실제로 일어날 수 있습니다. 챗봇이 그 예입니다. 하지만 AI는 하나의 응용이자 하나의 시장이 아닙니다. 지능 능력이 계속 향상되면서 새로운 시장이 끊임없이 나타날 것입니다.

2023년에는 모두가 챗봇에 주목했습니다. Anthropic은 당시 모델의 능력을 보고 프로그래밍이 더 큰 시장이 될 것이라고 판단했습니다. 모델이 이미 프로그래밍 작업을 처리할 만큼 충분히 똑똑해지기 시작했기 때문입니다.

그래서 우리는 챗봇 시장을 두고 경쟁하거나 챗봇을 중심으로 해자를 구축하는 대신, 능력의 프런티어에 주목했습니다.

지금 AI 프로그래밍은 점차 성숙해지고 있지만 아직 갈 길이 멉니다. 포춘 500대 기업의 침투율을 보면 아직 해야 할 일이 많습니다.

동시에 시장의 관심은 새로운 영역으로 옮겨갈 것이라고 생각합니다. 그 영역은 프로그래밍보다 클 수 있으며, 프로그래밍 시장이 챗봇 시장보다 컸던 것과 같습니다. 과학적 발견, 생명과학, 물리학, 소재, 로봇, 사이버보안이 여기에 속합니다. 이들이 직면한 과제는 일반 프로그래밍보다 더 복잡하므로 우리는 계속해서 능력의 프런티어에 주목할 것입니다.

둘째, 최첨단 모델이 필요 없는 작업에서도 우리는 대형 모델을 활용해 더 작고 효율적인 모델을 훈련할 수 있습니다.

컴퓨팅 사용 효율을 높여 대형 모델을 더 효율적으로 만들고, 이 기술을 소형 모델에도 적용할 수 있습니다. 예를 들어 Haiku 5.5의 가격은 백만 입력 토큰당 0.10달러, 백만 출력 토큰당 0.50달러입니다. 우리도 저비용 모델을 만들고 효율성 측면에서 다른 업체와 경쟁할 수 있습니다.

AI는 의학과 과학의 돌파구를 열 수 있을까?

제이미 다이먼: AI가 인류가 암과 다른 질병을 치료하거나, 핵융합·양자 기술 같은 중대한 돌파를 이끌 수 있을까요?

다리오 아모데이: 우리는 여러 분야에서 유사한 기술 발전 과정을 반복적으로 봅니다. 수학을 예로 들면, 2023년 모델은 고등학교 수학 문제조차 어려워했습니다. 챗봇은 대화는 잘하지만 수학과 논리는 잘하지 못한다는 것이 일반적인 인식이었습니다.

2024년이 되자 모델은 고등학교 수학 문제를 꽤 잘 풀었습니다. 2025년에는 이전에 풀리지 않았던 일부 수학 문제를 해결하기 시작했습니다. 처음에는 한두 사례뿐이어서 사람들은 그 문제가 학습 데이터에 있었을 수 있다거나 모델이 운이 좋았을 뿐이라고 말했습니다.

그러나 이후 모델이 해결하는 문제가 점점 늘었고, 더 중요하고 더 어려운 문제로도 확장되었습니다.

지금 우리는 생물학과 로봇 같은 새로운 분야에서 유사한 과정의 초기 징후를 보고 있습니다. 전문가들은 매우 회의적인 경우가 많고, 특히 제약 업계가 그렇습니다. 이들은 과거 업계의 난제를 해결하려 했던 많은 기술을 봐 왔고, 그 문제가 얼마나 어려운지도 알고 있습니다.

생명과학 분야에서 사람들은 병목이 임상시험이나 제조, 혹은 미국 식품의약국(FDA)의 승인이라고 말합니다. 하지만 우리는 AI가 이런 단계의 문제를 점진적으로 해결하는 데 도움을 주고 있다고 봅니다. 앞으로 몇 년 안에 이런 변화가 더 분명해질 수 있다고 생각합니다.

우리는 결과를 미리 확정할 수 없습니다. 특정 분야에서는 회의론자들이 옳을 수도 있습니다. 하지만 AI가 생물학에서 중대한 진전을 이끌 잠재력은 매우 크다고 생각합니다.

취약점을 발견한 뒤에 더 어려운 것은 수정

제이미 다이먼: Mythos와 에이전트가 등장하기 전부터 사이버보안은 JP모건이 직면한 최대 리스크 중 하나였습니다. 우리는 수천 명이 사이버보안 업무를 하고 있고, 발견된 취약점을 수정하려면 더 많은 인력이 필요할 수도 있습니다.

이제 상시 가동되는 에이전트가 기업의 다양한 보안 경계를 공격할 수 있습니다. 기업, 공급업체, 업계 전체는 어떻게 대비해야 할까요?

또 일부 핵심 산업은 방어 능력이 거의 충분하지 않은데, 이들이 따라오도록 도와야 합니다.

다리오 아모데이: 첫째, 취약점 발견은 첫 단계일 뿐입니다.

Mythos 출시 후 우리는 취약점을 찾는 데 막대한 노력을 투입했습니다. 고객은 수십만 개, 우리도 수십만 개의 취약점을 발견했습니다. 그다음 병목은 이 취약점을 어떻게 수정하느냐가 되었습니다.

수정은 발견보다 어렵습니다. 우리는 많은 취약점을 찾았지만 고객도 우리 자신도 충분히 빠르게 수정하지 못했습니다. 그래서 Claude는 점차 취약점 수정 능력을 높이고 있고, 우리도 관련 서비스를 더 제공하기 시작했습니다.

세 번째 단계는 처음부터 더 안전한 코드를 작성하는 것입니다. Claude의 프로그래밍 능력이 향상되면서 우리는 안전한 코드 작성에 더 능숙해지도록 별도로 훈련하고 있습니다.

네 번째는 실시간 방어입니다. 사이버 공격은 몇 시간, 몇 분, 심지어 몇 초 안에 일어날 수 있습니다. 방어용 에이전트 군집을 배치해 기업 서버와 시스템을 지속적으로 순찰하고 실시간으로 공격을 막을 수 있다면 매우 가치 있을 것입니다.

이 방식은 아직 대규모로 보편화되지 않았지만, 향후 6~12개월에 걸쳐 활용이 늘어날 것으로 봅니다. 공격 측도 에이전트 군집을 사용할 것이고, 방어 측도 마찬가지로 에이전트 군집이 필요하기 때문입니다.

왜 지금 상장하는가?

제이미 다이먼: Anthropic이 곧 상장합니다. 왜 지금인가요? 상장에는 장단점이 있는데, 회사를 더 좋게 만들 것이라고 보나요, 아니면 경영을 더 어렵게 만들 것이라고 보나요?

다리오 아모데이: 상장에는 몇 가지 이유가 있고, 가장 중요한 것은 역시 컴퓨팅 투자입니다.

생물학, 로봇, 사이버보안, 그리고 더 넓은 지식 노동 영역에는 거대한 경제적 기회가 있습니다. 우리는 이런 기회를 잡을 수 있도록 충분한 자원을 투입하고 싶습니다.

현금이 충분할수록 낮은 컴퓨팅 수요와 높은 컴퓨팅 수요 사이에서 회사의 완충 공간이 커집니다. 이것도 상장의 중요한 이유입니다.

구체적으로 어느 달, 어느 날, 어떤 시장 환경에서 상장할지는 특별히 고민하지 않았습니다.

상장 절차를 시작하기 전에 저는 이런 일을 겪어 본 적이 없었습니다. Anthropic은 약 6년 만에 이제 막 출발한 회사에서 오늘에 이르렀습니다. 저는 많은 사람에게 조언을 구했고, 그중 가장 공감한 것은 회사 가치를 실제 가치보다 단 1달러도 높게 평가받지 말라는 것이었습니다.

이는 Anthropic의 원칙 중 하나와 가깝습니다. 적게 약속하고 많이 이행하는 것입니다.

우리는 보통 모델이 완성되기 전에 그것이 어떤 능력을 갖출지 미리 크게 이야기하지 않습니다. 먼저 모델을 만들고, 충분히 좋은지 확인한 뒤 공개합니다. 안전 시스템도 마찬가지입니다. 상장도 같은 원칙을 따르길 바랍니다.

지분 5%로 공익 기금 설립, AI 부의 집중 우려

제이미 다이먼: Anthropic은 공익 기금 설립도 발표했습니다. 많은 사람이 잘 모를 수 있는데, 왜 이런 결정을 했나요? 기금에 대한 구상은 무엇인가요?

다리오 아모데이: 우리는 회사 지분 5%를 공익 기금에 편입하기로 했습니다.

그 외에도 공동 창업자들은 개인 재산의 80%를 기부하기로 약속했습니다. 회사 설립 초기부터 우리는 직원 기부 매칭 프로그램도 운영하고 있습니다. 직원이 일정 비율의 주식을 자선단체에 기부하거나 공익 용도로 예약하면, 회사가 추가 주식으로 매칭합니다.

이 몇 가지 장치 뒤에는 공통된 생각이 있습니다. AI는 매우 강력한 기술입니다. 이미 Anthropic과 업계 전체에 거대한 경제적 가치를 창출했고, 미래의 기회는 더 클 것으로 기대하지만 확신할 수는 없습니다.

저는 AI가 인류가 암과 알츠하이머병을 치료하고, 더 저렴하고 풍부한 에너지와 더 나은 소재를 제공하며, 더 많은 사람이 더 풍요로운 물질적 삶을 누리도록 돕기를 바랍니다.

하지만 우리는 또한 우려합니다. 대량의 신규 부가 모두 같은 기술에서 나오고 소수 기업에 집중된다면, 사회는 고속 성장과 부의 고도 집중을 동시에 겪을 수 있습니다.

우리는 부의 집중 문제를 가능한 한 완화하고자 하며, 공익 기금은 그중 일부입니다.

기금의 구체적 방향은 여전히 검토 중입니다. 지금 당장 해결할 문제 목록을 대외에 발표하기보다, 어떤 문제에 투자할 가치가 가장 큰지 먼저 파악하고자 합니다.

가능한 방향으로는 사회가 AI로 인한 노동 전환을 원활하게 겪도록 돕는 것, 그리고 생물보안이 있습니다. AI는 생물학에 거대한 진전을 가져올 수 있지만, 사이버 기술과 다른 기술들처럼 악용될 수도 있습니다. 우리는 악용을 막고 효과적인 방어 체계를 구축해야 합니다.

15년 후, 질병이 역사가 되길 바라며 AI 통제 불능도 막아야

제이미 다이먼: 마지막 질문입니다. 15년 후 오늘을 돌아본다면, 어떤 일이 일어나길 가장 바라며, 어떤 일은 일어나지 않길 가장 바라십니까? 그리고 오늘 이야기하지 않았지만 여러분께 전하고 싶은 말이 있나요?

다리오 아모데이: 가장 중요한 것은 이 기술이 올바른 방식으로 개발되도록 보장하는 것입니다.

저는 생물 공격이나 사이버 공격에 악용되는 것, 경제적 충격을 일으키는 것, 인간이 에이전트에 대한 통제를 잃는 것 등 많은 기술적 위험을 이야기했습니다. 이런 위험은 매우 심각하며 마케팅 수사가 아닙니다. Anthropic은 창립 초기부터 이런 문제를 진지하게 다루고 자원을 투입해 왔습니다.

우리는 업계 전체에 위험에 어떻게 대응해야 하는지 본보기를 세우고자 합니다. 하지만 Anthropic 내부에서 잘하는 것만으로는 충분하지 않습니다. AI 업계의 다른 기업, 고객, 공급업체도 책임 있게 행동하기를 바랍니다.

둘째, 우리는 AI의 긍정적 가치를 실제로 실현해야 합니다.

생물학과 의학에서 우리는 이 기술의 잠재력을 이제 막 보기 시작했습니다. 제약회사, 초기 바이오테크 기업, 학계에는 여전히 회의적인 목소리가 많습니다. 우리는 결과를 미리 알 수 없고 회의론자들이 옳을 수도 있지만, 궁극적으로는 그들의 우려가 현실이 되지 않았음을 증명하고 싶습니다.

저는 언젠가 심장병, 알츠하이머병, 암이 오늘날의 흑사병과 천연두처럼 과거의 질병이 되기를 바랍니다.

다소 이상주의적으로, 어쩌면 미친 것처럼 들릴 수 있지만 저는 정말로 이것이 가능하다고 믿습니다. 5년이 걸릴지, 10년이 걸릴지, 15년이 걸릴지는 모르지만, 이 목표를 최대한 빨리 실현하기 위해 최선을 다할 것입니다.

공유하기:

작성자: 链捕手 ChainCatcher

이 글은 PANews 입주 칼럼니스트의 관점으로, PANews의 입장을 대표하지 않으며 법적 책임을 지지 않습니다.

글 및 관점은 투자 조언을 구성하지 않습니다

이미지 출처: 链捕手 ChainCatcher. 권리 침해가 있을 경우 저자에게 삭제를 요청해 주세요.

PANews 공식 계정을 팔로우하고 함께 상승장과 하락장을 헤쳐나가세요
PANews APP
美国加州通过第42号提案:数字资产、退休账户等个人财产免征新增税
PANews 속보