4월 2일, PANews는 이더리움 공동 창립자 비탈릭 부테린이 개인용 AI 사용을 위한 지역화되고, 개인 정보 보호가 강화된 안전한 솔루션에 대한 연구 결과를 담은 기고문을 발표했다고 보도했습니다. 그는 현재 AI 분야(지역 오픈소스 AI 포함)가 개인 정보 보호 및 보안 측면에서 매우 허술하다고 지적했습니다. 예를 들어, OpenClaw 에이전트는 사람의 승인 없이 중요한 설정을 변경할 수 있고, 악의적인 외부 입력이 사용자 인스턴스를 쉽게 장악할 수 있으며, 일부 스킬에는 악의적인 명령어가 포함되어 있다는 것입니다. 비탈릭은 모든 LLM 추론 및 문서화 작업을 우선적으로 지역화하고, 모든 것을 샌드박스 환경에서 격리해야 한다고 주장했습니다. 그는 NVIDIA 5090 노트북과 AMD Ryzen AI Max Pro와 같은 하드웨어를 Qwen3.5:35B 모델과 함께 llama-server를 통해 NixOS 시스템에서 테스트했습니다. 에이전트 프레임워크로는 Raspberry Pi를 사용했고, bubblewrap 샌드박스를 통해 LLM의 접근 권한을 제한했습니다. 또한, LLM이 메시지를 읽고 자신에게만 보낼 수 있도록 엄격하게 제한하고, 다른 사람에게 메시지를 보내기 전에 사람의 승인을 요구하는 메시징 데몬을 개발했습니다. 비탈릭은 인간과 LLM(Learning Leadership Model)이 서로 다른 오류 발생 방식을 가지고 있으며, 둘을 결합한 이중 확인 메커니즘이 어느 한쪽에만 의존하는 것보다 더 안전하다고 믿습니다. 그는 영지식 API 호출, 하이브리드 네트워크, TEE 추론, 입력값 정제 등을 포함하는 다층 방어 메커니즘을 촉구했으며, 모든 유료 API를 영지식 API로 만들 것을 제안했습니다. 그는 인공지능이 제대로 개발된다면 더욱 강력한 개인정보 보호 및 보안의 미래를 만들어낼 수 있다고 강조했습니다.
비탈릭: AI는 개인 데이터에 자유롭게 접근해서는 안 됩니다. 지역화되고, 샌드박스 환경에서 작동하며, 인간과 기계의 이중 검증을 거쳐야 합니다.
공유하기:
작성자: PA一线
이 내용은 시장 정보 제공만을 목적으로 하며, 투자 조언을 구성하지 않습니다.
PANews 공식 계정을 팔로우하고 함께 상승장과 하락장을 헤쳐나가세요
추천 읽기
PANews 앱
24시간 블록체인 업계 소식을 추적하고 심층 기사를 분석합니다.

