6월 26일부터 27일까지 열린 이스탄불 블록체인 위크(IBW 2025)는 AI와 Web3의 통합 추세에 초점을 맞추며 올해 Web3 보안 논의의 중요한 장이 되었습니다. IBW에서 열린 두 차례의 원탁 토론에서 보안 회사 CertiK의 최고사업책임자(CBO)인 제이슨 장은 PwC 터키의 사이버보안 서비스 책임자인 누레틴 에르기노즈와 비트레이어 공동 창립자 찰리 후 등 전문가들과 함께 DeFi에서 AI 기술의 적용 현황과 보안 과제에 대해 심도 있는 논의를 나누었습니다.
토론 중 "DeFAI(탈중앙화 인공지능 금융)"가 핵심 키워드로 떠올랐습니다. 참석자들은 대규모 언어 모델(LLM)과 AI 에이전트의 급속한 발전으로 새로운 금융 패러다임인 DeFAI(탈중앙화 인공지능 금융)가 점차 구체화되고 있다고 지적했습니다. 그러나 이러한 변화는 새로운 공격 영역과 보안 위험을 야기합니다.
제이슨 지앙은 "DeFAI는 큰 잠재력을 가지고 있지만, 분산 시스템의 신뢰 메커니즘을 재검토해야 합니다."라고 말했습니다. "고정된 논리에 기반한 스마트 계약과 달리, AI 에이전트의 의사 결정 과정은 상황, 시간, 심지어 과거 상호작용의 영향을 받습니다. 이러한 예측 불가능성은 위험을 증가시킬 뿐만 아니라 공격자에게 기회를 제공하기도 합니다."
"AI 에이전트"는 본질적으로 자율적인 결정을 내리고 AI 로직을 기반으로 실행할 수 있는 지능형 개체이며, 일반적으로 사용자, 프로토콜 또는 DAO(탈중앙화 자율 조직)에 의해 실행 권한이 부여됩니다. 가장 대표적인 예가 AI 트레이딩 로봇입니다. 현재 대부분의 AI 에이전트는 웹2 아키텍처에서 실행되고 중앙화된 서버와 API에 의존하기 때문에 인젝션 공격, 모델 조작 또는 데이터 변조와 같은 위협에 취약합니다. 해킹당하면 재정적 손실뿐만 아니라 전체 프로토콜의 안정성에도 영향을 미칠 수 있습니다.
포럼에서는 또한 전형적인 공격 시나리오를 언급했습니다. DeFi 사용자가 운영하는 AI 거래 에이전트가 소셜 미디어 메시지를 거래 신호로 모니터링할 때, 공격자는 "프로토콜 X가 공격받고 있습니다"와 같은 거짓 경보를 발생시켜 에이전트가 즉시 긴급 청산을 시작하도록 유도할 수 있습니다. 이러한 행위는 사용자 자산 손실을 초래할 뿐만 아니라 시장 변동을 유발하여 공격자가 선행매매를 통해 악용할 수 있습니다.
위의 위험에 대응하여 방문객들은 AI 에이전트의 보안은 어느 한 당사자가 부담하는 것이 아니라 사용자, 개발자, 제3자 보안 기관이 공동으로 책임져야 한다는 생각을 가지고 있었습니다.
첫째, 사용자는 에이전트의 권한 범위를 명확히 파악하고, 신중하게 권한을 부여하며, AI 에이전트의 고위험 운영을 신중하게 검토해야 합니다. 둘째, 개발자는 설계 단계에서 즉각적인 단어 강화, 샌드박스 격리, 속도 제한, 폴백 로직과 같은 방어 조치를 구현해야 합니다. CertiK과 같은 서드파티 보안 회사는 AI 에이전트 모델 동작, 인프라, 온체인 통합 방식에 대한 독립적인 검토를 제공하고, 개발자 및 사용자와 협력하여 위험을 파악하고 완화 조치를 제안해야 합니다.
토론 말미에 제이슨 지앙은 "AI 에이전트를 '블랙박스'처럼 취급한다면 현실 세계에서 보안 사고가 발생하는 것은 시간문제일 뿐입니다."라고 경고했습니다. DeFAI의 방향을 모색하는 개발자들을 위해 그는 "스마트 계약과 마찬가지로 AI 에이전트의 행동 로직도 코드로 구현됩니다. 코드이기 때문에 공격받을 가능성이 있으므로 전문적인 보안 감사와 침투 테스트가 필요합니다."라고 조언했습니다.
유럽에서 가장 영향력 있는 블록체인 행사 중 하나인 IBW(이스탄불 블록체인 위크)에는 전 세계 15,000명 이상의 개발자, 프로젝트 오너, 투자자, 규제 기관 관계자가 참여했습니다. 올해 터키 자본시장위원회(CMB)의 블록체인 프로젝트 라이선스 발급이 공식 시작됨에 따라 IBW의 업계 위상은 더욱 높아졌습니다.
