스위스 다보스의 눈과 얼음 속에서 개최된 세계경제포럼의 핵심 주제는 의심할 여지 없이 트럼프와 AI입니다. AI에 대한 거대한 이야기의 이면에는 점점 더 치열해지는 법적 소송의 물결이 펼쳐지고 있습니다.
이와 비슷한 사례가 인터넷 초창기에도 있었습니다. 개방적이고 무료인 음악 공유 서비스인 냅스터가 1999년에 빠르게 유명해졌습니다. 하지만 예술가와 음악 산업계의 저작권 소송으로 인해 결국 2001년에 폐쇄되었습니다. 이 사건은 유료 중앙 집중형 디지털 음악 배포로의 전환을 가속화했습니다. iTunes는 2001년에 합법적인 음악 구매 플랫폼으로 출시되었고, Spotify와 같은 구독 기반 스트리밍 서비스는 2000년대 중반에 시작되었습니다.
오늘날 AI 분야에서도 이와 비슷한 투쟁과 진화가 일어나고 있습니다. 이 글에서는 AI 관련 소송의 세 가지 핵심 범주를 살펴보고 피할 수 없는 추세를 밝힙니다. 즉, 분산형 AI(DeAI)가 이러한 법적, 윤리적 과제에 대한 해결책으로 부상하고 있다는 것입니다.
AI 데이터를 둘러싼 3대 법적 전쟁터
지적 재산권(IP) 소송: AI 훈련에 사용되는 데이터는 누가 소유하는가?
개인정보 보호 및 데이터 보호 소송: AI의 개인정보와 민감한 데이터를 누가 통제하는가?
윤리 및 책임 소송: AI가 피해를 입혔을 때 누가 책임을 져야 하는가?
이러한 법적 싸움은 AI의 미래 발전에 큰 영향을 미칠 것입니다. 지적 재산권 분쟁으로 인해 AI 기업은 훈련 데이터에 대한 라이선스 비용을 지불해야 할 수 있으며, 이로 인해 데이터 수집 비용이 증가할 수 있습니다. 개인정보 보호 소송으로 인해 데이터 거버넌스가 더욱 엄격해지고, 규정 준수가 주요 과제가 되며 개인정보 보호에 중점을 둔 AI 모델이 선호됩니다. 책임 소송은 더 명확한 책임 메커니즘을 요구하게 되며, 이는 고위험 산업에서 AI 도입을 늦추고 AI 규제를 더욱 엄격하게 만들 가능성이 있습니다.
지적 재산권 소송: AI 훈련 데이터는 누가 소유하는가?
AI 모델은 종종 승인 없이 수집되는 책, 기사, 사진, 음악 등의 방대한 데이터 세트에 의존합니다. 저작권 보유자들은 AI 기업들이 허가 없이 자신들의 작품을 사용하여 이익을 얻고 있다고 믿으며, 이로 인해 AI 훈련이 공정 사용인지 저작권 침해인지 여부를 놓고 소송이 잇따라 제기되고 있습니다.
2023년 1월, Getty Images는 Stability AI를 상대로 소송을 제기했습니다. Stability AI가 자사 AI 모델 Stable Diffusion을 훈련하기 위한 승인 없이 Getty 플랫폼에서 수백만 개의 이미지를 크롤링하여 지적 재산권을 침해했다고 고소했습니다.
OpenAI와 Meta도 저작권 침해 혐의로 불법 복제 도서 데이터를 이용해 AI 모델을 훈련시켰다는 유사한 소송에 직면해 있습니다.
법원이 콘텐츠 제작자에게 유리한 판결을 내릴 경우, AI 기업은 훈련 데이터에 대한 합법적 라이선스를 취득해야 할 것입니다. 회사가 저작권이 있는 자료 사용에 대해 협상하고 비용을 지불해야 하므로 운영 비용이 크게 증가하게 됩니다. 또한, 라이선스 요구 사항으로 인해 고품질 교육 데이터에 대한 액세스가 제한될 수 있으며, 특히 자금이 부족하여 대형 기술 회사와 경쟁하는 데 어려움을 겪을 수 있는 소규모 AI 스타트업의 경우 더욱 그렇습니다. 이는 AI 산업의 혁신 둔화로 이어질 수 있으며, 데이터 라이선스 수수료를 감당할 수 있는 막대한 자금을 갖춘 대기업이 시장을 선호하게 될 것입니다.
개인정보 보호 및 데이터 보호 소송: AI의 개인정보를 누가 통제하는가?
AI 시스템은 대화 내용, 검색 기록, 생체 정보, 심지어 의료 기록을 포함한 엄청난 양의 개인 데이터를 처리합니다. 규제 기관과 소비자들은 데이터 수집 및 사용에 대한 더 엄격한 통제를 요구하며 반발하고 있습니다.
미국의 얼굴 인식 회사인 클리어뷰 AI(Clearview AI)가 사용자 동의 없이 이미지를 스크래핑한 혐의로 미국과 EU 규제 기관으로부터 벌금을 부과받았습니다. 2024년에 네덜란드 데이터 보호 기관은 3,050만 유로의 벌금을 부과했고, 몇몇 미국 주는 합당한 보상을 제공하지 않는다는 이유로 개인정보 보호 합의에 반대했습니다.
이탈리아는 2024년에 OpenAI에 1,500만 유로의 벌금을 부과하며, GDPR(EU 일반 데이터 보호 규정)을 위반하고, 승인 없이 데이터를 처리하고, 충분한 투명성을 제공하지 못했다고 비난했습니다. 해당 국가의 규제 기관은 또한 연령 검증 메커니즘이 부적절하다고 지적했습니다.
2023년 아마존은 연방거래위원회(FTC)로부터 어린이의 알렉사 음성 녹음을 무기한 저장한 혐의로 2,500만 달러의 벌금을 부과받았습니다.
구글은 사용자의 동의 없이 사용자의 개인 정보를 녹음했다는 혐의로 소송을 당하고 있다.
더욱 엄격해진 개인정보 보호 규정에 따라 AI 회사는 데이터를 수집하거나 처리하기 전에 사용자의 명확한 동의를 받아야 합니다. 이를 위해서는 보다 투명한 정책, 더욱 강화된 보안 조치, 그리고 데이터 사용 방법에 대한 더 큰 통제가 필요합니다. 이러한 조치를 통해 사용자의 개인정보 보호와 신뢰를 강화할 수 있지만, 규정 준수 비용이 증가하고 AI 개발이 지연될 수도 있습니다.
윤리 및 책임 소송: AI가 실수를 할 때 누가 책임을 져야 할까?
AI가 채용, 의료 진단, 콘텐츠 검토 등의 분야에서 의사 결정에 점점 더 중요한 역할을 함에 따라 중요한 법적 문제가 제기되었습니다. AI가 실수를 하거나 피해를 입혔을 때 누가 책임을 져야 할까요? AI가 오해의 소지가 있거나 편향적이거나 차별적이라는 이유로 소송을 당할 수 있는가?
2024년 2월, 구글의 제미니 AI는 미국 건국의 아버지들과 나치 군인들을 유색인종으로 묘사하는 등 역사적으로 부정확한 이미지를 생성했다는 이유로 비난을 받았습니다. 일부 사람들은 AI가 "정치적으로 지나치게 올바르다"며 역사적 사실을 왜곡했다고 비난했습니다. 이후 구글은 정확도를 높이기 위해 제미니의 이미지 생성 기능을 일시 중단했습니다.
2023년 4월, 호주의 한 시장은 ChatGPT가 자신이 뇌물 스캔들에 연루되었다고 거짓 주장한 후 OpenAI를 고소하는 것을 고려했습니다. 이 사건은 AI가 생성한 허위 정보와 명예훼손으로 인해 발생할 수 있는 법적 문제를 강조합니다.
2018년 아마존은 여성을 차별한다는 이유로 채용 AI 도구 사용을 중단해야 했습니다. AI는 지난 10년 동안의 이력서 데이터를 기반으로 훈련을 받았는데, 그 결과 남성 지원자를 선호하고 '여자'나 여자 대학과 관련된 단어가 포함된 이력서는 자동으로 평가를 낮췄습니다. 이 사건은 AI 채용에 있어서 공정성 문제가 얼마나 어려운지를 잘 보여줍니다.
더욱 강력한 AI 책임법이 시행되면 기업은 AI 시스템의 공정성과 책임을 보장하기 위해 편견 감지 및 투명성을 개선해야 할 것입니다. 그러나 규제가 너무 느슨하면 기업이 윤리적 안전 장치를 무시한 채 AI 제품의 신속한 반복을 우선시하게 되어 허위 정보와 AI로 인한 차별의 위험이 커질 수 있습니다. 규제와 혁신 간의 균형을 찾는 것은 미래에 중요한 과제가 될 것입니다.
분산형 AI(DeAI): 실행 가능한 솔루션
AI 법적 분쟁의 맥락에서 분산형 AI(DeAI)는 실행 가능한 솔루션을 제공합니다. DeAI는 블록체인과 분산형 네트워크를 기반으로 하며, 이를 통해 글로벌 사용자가 자발적으로 데이터를 제공하고 데이터 수집 및 처리 프로세스가 투명하고 추적 가능하도록 보장합니다. 모든 데이터 수집, 처리 및 사용은 변경 불가능한 방식으로 블록체인에 기록됩니다. 이를 통해 지적 재산권 갈등이 줄어들 뿐만 아니라 사용자 자율적 데이터 제어를 통해 개인 정보 보호가 강화되고, 결과적으로 무단 접근이나 남용의 위험이 줄어듭니다.
값비싼 독점 데이터에 의존하는 중앙 집중형 AI와 달리 DeAI는 더욱 다양하고 공정한, 전 세계적으로 분산된 네트워크에서 데이터를 수집합니다. 또한 블록체인의 분산형 거버넌스를 통해 AI 모델은 단일 회사에 의해 독점되지 않고 커뮤니티에 의해 검토되고 개선됩니다.
AI 관련 법적 문제가 계속해서 발생함에 따라 분산형 AI(DeAI)는 개방적이고 공정하며 신뢰할 수 있는 AI 미래를 구축하는 데 중요한 방향이 되고 있습니다.
저자: OORT 설립자이자 컬럼비아 대학교 교수인 Chong Li 박사
원래 Forbes에 게재됨: https://www.forbes.com/sites/digital-assets/2025/01/20/from-chip-war-to-data-war-ais-next-battleground-explained/
