저자: a16z crypto

편집: 深潮 TechFlow

深潮 서문: OpenAI의 최신 수학 모델 성과가 업계에 공포를 불러일으키면서, 일부에서는 AI가 우리의 생존 기반인 암호화 체계를 무너뜨릴지도 모른다는 우려가 나오기 시작했다. 이 글은 스탠퍼드 암호학 교수와 a16z crypto 연구팀을 초청해 무엇이 사실이고 무엇이 추측인지 가려내고, AI가 실제로 가져올 수 있는 기회를 짚어본다. 암호학 인프라에 의존하는 모든 실무자에게 읽을 가치가 있다.

OpenAI의 수학 성과가 업계 관계자들의 경고를 불러일으키고, AI가 우리의 생존 기반인 암호학을 깨뜨릴지도 모른다는 우려가 제기된 이후, 우리는 스탠퍼드대학교의 암호학자와 a16z crypto의 전문가들을 초청해 무엇이 사실이고 무엇이 추측인지, 무엇을 걱정해야 하고 무엇은 불안해할 필요가 없는지 이야기를 나눴다.

Dan Boneh, 스탠퍼드대학교 교수, 응용암호학 그룹을 이끌고 컴퓨터 보안 연구소를 공동 운영하며 a16z crypto 특별 연구 고문을 겸임

Eddy Lazzarin, a16z crypto 제너럴 파트너

Justin Thaler, a16z crypto 리서치 파트너, 조지타운대학교 컴퓨터과학 부교수

Liz Harkavy, a16z crypto 투자 파트너

Sonal Chokshi, a16z crypto 편집장

이어서, 여섯 가지 핵심 결론:

1. AI의 수학적 진전은 암호학의 핵심 문제에 닿지 않았다

최근 발표된 결과는 수학과 컴퓨터과학 분야에서 놀라운 진전을 보여주었지만, 그 안에는 암호학 관련 성과가 포함되어 있지 않다.

"이것은 수학과 컴퓨터과학 분야의 훌륭한 진전이지만, 여기에는 암호학에 관한 어떤 문제도 없습니다. …… 그래서 여러분은 이것이 이 모델들이 암호학에서 정말 형편없다는 뜻인지 궁금할 수 있습니다. 우리는 모릅니다.", Dan Boneh, 03:00

"우리는 타원곡선이 이전보다 더 취약해졌다는 사실을 알게 된 것이 아닙니다. 어떤 구체적인 암호학 가정의 안전성이 예전만 못하다는 사실도 알게 된 것이 아닙니다.", Eddy Lazzarin, 15:19

2. AI가 아무리 똑똑해져도 존재하지 않는 알고리즘은 찾을 수 없다

현대 암호학의 상당 부분은 특정 수학 문제에 효율적인 해법이 존재하지 않는다는 가정 위에 세워져 있다. 능력이 점점 강해지는 AI에 대해서도 이 점은 마찬가지로 성립할 수 있다.

"우리는 일반적으로 이러한 문제에 효율적인 알고리즘이 존재하지 않는다고 믿습니다. 존재할지도 모르는데 인간이 충분히 똑똑하지 못해 찾지 못하는 것이라고 말하는 게 아닙니다. 우리는 근본적으로 존재하지 않는다고 생각합니다. 존재하지 않는다면 AI가 아무리 똑똑해도 소용없습니다. AI는 존재하지 않는 그 알고리즘을 찾을 수 없습니다.", Justin Thaler, 16:12

"우리는 어떤 문제들이 어렵다고 가정해야 합니다. 우리가 이 문제들이 어렵다는 것을 증명할 수 없는 이유는, 이것이 컴퓨터과학의 유명한 미해결 난제인 P 대 NP 문제와 관련되기 때문입니다. 어떤 의미에서 우리는 이 문제를 먼저 해결해야만 특정 암호학 문제가 정말로, 정말로 어렵다는 것을 진정으로 논증할 수 있습니다. …… 이번 주에 발표된 어떤 문제도 P 대 NP 문제 해결에 근접하지 못했습니다. 우리는 암호학에서 여전히 계속해서 가정을 세워야 합니다, 그렇죠?", Dan Boneh, 06:00

3. AI는 수년에 걸친 암호학 검토 시간을 압축할 수 있다

암호학을 깨뜨리려는 시도 자체가 연구자들이 신뢰를 쌓는 방식 중 하나다. 지속적이고 진지한 공격을 견뎌낸 설계만이 신뢰를 얻는다. AI는 이러한 검토가 이루어지는 속도를 바꿀 수 있다.

"과거에는 누군가 가정을 제시하고 이를 기반으로 시스템을 구축하면, 우리는 대체로 이 시스템을 배포하기까지 10년 정도를 기다려야 했습니다. 신뢰를 쌓고 사람들이 이 가정을 분석할 충분한 시간을 주기 위해서였죠. …… 그런데 이제 갑자기, 우리는 이 모델들을 이용해 이 과정을 크게 가속할 수 있습니다. …… 이제 우리는 모델을 한 달 동안 돌려서 그것을 깨뜨리려 시도하게 할 수 있고, 모델이 깨뜨리지 못한다면 이 가정이 유효하다는 우리의 확신은 크게 강화될 것입니다.", Dan Boneh, 12:10

4. 양자 대비는 일부 AI 위험에 선제적 우위를 제공한다

최근의 우려는 AI를 중심으로 전개되고 있지만, 그중 일부 시스템은 이미 양자 컴퓨팅의 위협 때문에 마이그레이션 작업의 대상이 되어 왔다. 이러한 중첩에는 한계가 있다.

"양자 위협에 대한 우려 때문에, 사람들은 이미 타원곡선 암호학을 곧 취약해질 수 있는 것으로 간주하기 시작했습니다. 따라서 이와 완전히 동일한 우려에 대해, 우리는 실제로 여러분이 필요로 하는 많은 완화 조치에 이미 참여하고 준비하고 배포해 왔습니다. 다만 원래는 다른 종류의 위협을 겨냥한 것이었을 뿐입니다.", Eddy Lazzarin, 20:52

"AI의 위협은 어떤 의미에서 더 광범위합니다. AI는 실제로 우리의 포스트 양자 시스템도 살펴보고, 어떤 방식으로든 그것들을 약화시키거나 심지어 완전히 깨뜨릴 수도 있기 때문입니다.", Dan Boneh, 22:08

5. 암호학 민첩성은 약점이 나타날 때 시스템이 적응할 수 있게 한다

암호학 민첩성이란 증거나 요구사항이 변할 때 시스템이 자신의 암호학 방식을 교체할 수 있는 능력을 말한다. 이는 엔지니어가 미리 예측할 수 없는 발견에 대응할 수 있는 능력을 제공한다.

"우리가 배포하는 시스템은 사용 중인 설계가 안전하지 않다고 증명될 때, 한 설계에서 다른 설계로 빠르게 전환할 수 있습니다. 암호학 민첩성은 어떤 의미에서 예상치 못한 상황에 대비한 우리의 방어 수단입니다.", Dan Boneh, 22:47

Dan은 인터넷 연결이 이미 서로 다른 암호학 방식을 조합해 사용하고 있다고 지적한다:

"그것들은 실제로 이미 민첩한 암호학을 사용하고 있습니다. 그것들은 타원곡선과 격자를 동시에 사용해 암호화합니다. 타원곡선을 깨뜨려도 상관없습니다. 격자 기반 시스템으로도 암호화되어 있기 때문입니다.", Dan Boneh, 38:40

6. 눈앞의 기회: 소프트웨어 출시 전에 더 많은 결함을 발견하라

빌더에게 가장 분명한 기회 중 하나는 개발 과정에서 더 많은 보안 테스트를 도입하는 것이다.

복잡한 암호학 시스템을 논의하면서 Justin은 다음과 같이 지적한다:

"취약점의 표면적은 매우 커졌습니다. 네, 저는 사람들을 암호학 때문에 공포에 빠뜨리는 이 AI 도구들이 마찬가지로 우리가 모든 취약점을 제거하는 데도 도움이 될 것이라고 매우 낙관합니다. 이것은 매우 어려운 문제입니다.", Justin Thaler, 28:56

"시스템이 배포된 후에는 많은 암호학자의 관심을 끌지만, 그때 암호 시스템을 공격하는 것은 사실 이미 너무 늦습니다. 그런데 지금은 우리가 이 AI 모델들을 통제하고 있기 때문에, 새로운 암호학 기능을 배포하는 어떤 스타트업이든, 심지어 어떤 소프트웨어든 배포하는 어떤 회사든, 이 모델들이 자신의 암호학과 소프트웨어 전반의 취약점을 분석하게 할 수 있습니다.", Dan Boneh, 35:05

"취약점은 제거될 수 있습니다. 그것들은 설계를 통해 회피될 수 있고, 완화될 수 있습니다. 그리고 우리가 그것들을 완화하는 데 사용하는 주요 자원인 AI 능력은 몇 달마다 크게 가격이 내려가고 있습니다.", Eddy Lazzarin, 37:10

인용 내용은 명확성을 위해 약간 편집되었다. 생략 부호는 삭제된 단락을 나타낸다.