[5호] 기술 쿠데타: 실리콘 밸리로부터 민주주의를 지키는 법

기술 쿠데타: 실리콘 밸리로부터 민주주의를 지키는 법*
(마리에체 샤케)

 

김보라미(법률사무소 디케)

이 책은 참 고통스럽게 읽었는데, 도대체 어디부터 어떻게 이 문제에 대응할 수 있을지 감당이 되지 않았기 때문이다. 전 세계가 군비경쟁 하듯 AI 우선 정책을 펴고 있고, 한국에서도 이러한 흐름에 함께 발맞춰 가고 있다. 문제는 시민들이 어떤 문제가 발생하는지 이해하기도 전에, 정부정책과 민주주의적 절차들이 기업들에 의해 장악되어 점점 투명하지도 않고, 누가 책임지는지 알 수 없는 영역이 될 수 있다는 것이다. 

저자인 마리에체 샤케는 네덜란드 출신의 정치인이자 정책 전문가로, 2009년부터 2019년까지 유럽의회 의원으로 활동했다. 현재는 스탠포드 대학교 사이버 정책 센터의 국제 정책 디렉터이자 스탠포드 인공지능 연구소(HAI)의 정책 펠로우로 재직 중이다. 그녀는 10년간의 유럽의회 경험과 실리콘밸리에서의 관찰을 바탕으로 기술 기업이 끼치는 피해, 그 문제에 대해 무엇을 해야 할지를 구체적으로 설명하고 있다. 

샤케는 이 책에서 ‘기술 쿠데타(Tech Coup)’라는 개념을 제시한다. ‘쿠데타’라는 개념을 사용한 것은, 민주적으로 선출된 정부의 고유 권한이 점진적으로 사기업, 특히 거대 기술 기업들에게 이양되고 있는 현상을 설명하는 취지였다. 단순한 시장 지배력의 문제가 아니라 민주주의의 기본 원칙 - 자유롭고 공정한 선거, 법치주의, 권력분립, 정보에 기반한 공론장 - 을 위협하는 체계적인 권력 이동을 의미한다. 

이 책은 2009년 이란의 녹색 혁명 사례로부터 시작한다. 서구 언론은 이를 ‘트위터 혁명’이라 불렀지만, 그 결과는 양면적이었다. 소셜미디어가 시위를 조직하고 네다 아가-솔탄의 죽음과 같은 정부의 폭력을 세계에 알리는 도구가 된 동시에, 같은 기술이 시위자들을 추적하고 탄압하는 수단으로도 사용되었다. 노키아-지멘스가 이란 당국에 판매한 감시 기술이 시위자들을 체포해 잔혹한 강간과 고문으로 끔찍한 고통을 주었다. 이탈리아제 해킹시스템은 시리아를, 프랑스 기술은 리비아의 무아마르 가다피를 지원했다. 유럽 정부는 사람들의 억압과 인권 침해를 규탄하고 있을 때, 유럽 기업들은 중동 통치자들에게 정교한 감시 소프트웨어를 수출한 것이다. 
 
이스라엘 기업 NSO 그룹(Niv, Shalev and Omri)의 페가수스 스파이웨어 역시 현대 감시 기술의 위험성을 극명하게 보여준다. 이 기술은 전 세계 50,000개 이상의 전화번호를 해킹 대상으로 삼았으며, 프랑스 대통령, 파이낸셜 타임스 편집장, 헝가리 야당 지도자들까지 감시 대상이 되었다. 2022년에는 그리스, 폴란드, 스페인 정부가 야당 지도자, 판사, 언론인들을 해킹한 사례들이 추가로 드러났다. 저자는 이러한 ‘디지털 무기’가 민주주의 사회에서도 정치적 반대세력을 침묵시키는 도구로 사용되고 있었고, ICT가 민주주의의 확산을 촉진할 것이라고 단순히 가정하는 것은 명백히 실패한 전략이라고 설명한다. 

더욱 우려스러운 것은 기술 기업들이 전통적으로 국가의 전유물이었던 기능들을 점진적으로 맡으면서 책임성에 위협이 되고 있다는 사실이다. 엘론 머스크는 우크라이나 전쟁 중 스타링크 위성 인터넷 접속을 개인적 판단으로 차단하기도 했다. 한 기업인이 중대한 지정학적 결정을 내린 것으로, 조 바이든 대통령도 2021년 8월 25일 사이버보안 정상회의에서 “우리의 중요 인프라 대부분이 민간 부문에 의해 소유되고 운영되고 있다”고 인정하며 미 대통령조차도 정부 혼자서는 조국을 보호할 수 없고 기술 회사들이 손을 빌려줘야 한다는 취지의 발언을 했다. 

클리어뷰의 얼굴인식 기술이나 선거 기술을 제공하는 다양한 기업들도 마찬가지로 국가 기능에 깊숙이 관여하고 있다. 정부가 외주화를 통해 책임을 회피하는 사례도 빈번하다. 예를 들어 많은 관할구역에서 경찰은 용의자의 기기를 직접 해킹할 수 없지만, 대신 해킹 회사를 고용해 우회적으로 접근한다. 

2017년 미얀마에서 페이스북이 제노사이드 선동에 사용되었고, 2018년 케임브리지 애널리티카가 수백만 페이스북 사용자의 데이터를 추출해 브렉시트 투표에 영향을 미쳤을 가능성이 제기된 바 있다. 2020년에는 소셜미디어의 허위정보가 부분적으로 미국 국회의사당 습격 사건을 촉발했고, 수천만 미국인들이 선거 과정에 대한 신뢰를 잃게 되었다.

저자는 2016년 동료 유럽의회 의원(후에 에스토니아 총리가 된) 카야 칼라스와 함께 실리콘밸리를 방문했을 때의 경험을 통해 불투명한 모습도 보여줬다. 페이스북 본사에서 불법적이고 유해한 콘텐츠 정책에 대해 논의하러 갔지만, 페이스북 측은 셰릴 샌드버그의 “Lean In”이라는 책에 대해서만 이야기하며 정작 중요한 정책 논의는 회피했고, 법무팀과 이야기해야 한다고 하면서도 해당 전문가들은 만날 수 없다고 했다. 스탠포드에서 샤케가 만난 한 인스타그램 출신 엔지니어는 알고리즘이 어떻게 취향과 문화를 형성하고 시장을 움직일 수 있는지 설명했지만, 이러한 능력이 정치적 신념이나 행동에도 영향을 미칠 수 있는지에 대한 질문은 이해하지 못했다.

샘 알트만의 월드코인 프로젝트는 개발도상국 사람들에게 소액의 암호화폐를 대가로 홍채 스캔을 요구하며 글로벌 신원 데이터베이스 구축을 시도하고 있다. 그는 이토록 많은 민감한 생체 정보를 집중화시키는 위험이 무엇인지도 제대로 이해하지 못하고 있다. 소셜미디어 플랫폼은 십대들의 정신 건강에 미치는 부정적 영향은 거의 고려하지 않고 사용자의 온라인 참여 시간을 연장하는 데만 집중하고 있다. 상업적 알고리즘은 병원에서 응급처치 우선순위를 지정하거나 의료 이미지를 분석하는 등 잠재적으로 생명과 관련된 결정을 내리고 있다. 그러나 이러한 제품들이 어떻게 작동하는지에 대한 독립적인 연구는 종종 불가능해서 핵심 세부사항을 알지 못하는 상태다.

중국 공산당은 기술을 정치적 목적에 효과적으로 활용하고 있다는 분석이다. 서구 민주주의 국가들이 기술 기업들에게 자율성을 부여하는 동안, 중국은 AI와 감시 기술을 국가 권력 강화에 체계적으로 활용해 왔다. 코로나19 팬데믹 기간 중국의 의무적 추적 앱 사용, 위구르족 소수민족에 대한 정교한 감시 방법 등이 그 예다. 이러한 모델은 ‘디지털 실크로드’를 통해 다른 국가들에게도 수출되고 있다. 이집트는 중국 투자에 크게 의존해 통신 인프라를 현대화하고 새로운 스마트 시티까지 건설하면서, 새로운 사이버범죄법을 통해 중국식 인터넷 거버넌스 모델을 채택했고, 이집트 정부 관리들은 정기적으로 베이징의 검열 교육에 참석하고 있다.

샤케는 민주적 통제력 회복을 위한 구체적 방안들을 제시한다. 의회가 로비스트가 아닌 독립적인 기술 전문가들에게 자문을 구할 수 있는 체계 구축, 정부를 대신해 업무를 수행하는 기업들에게도 정부와 동일한 수준의 책임성을 요구하는 ‘공적 책임성 확장’, EU의 예방적 원칙을 AI 등 신기술에 적용하여 광범위한 도입 전 사회적 영향 평가를 실시하는 것 등이다.

특히 데이터센터 건설과 관련된 투명성 문제도 지적한다. 거대 기술 기업들이 데이터센터 건설을 추진하면서 에너지 사용량과 환경 영향을 은폐하는 사례들을 들어, 표준화된 투명성 요구사항의 필요성을 강조한다. 네덜란드에서는 파트타임 시의회 의원들이 수십억 달러 규모의 기업들과 그들의 변호사, 회계사, 컨설턴트, PR 회사들을 상대로 대규모스케일의 데이터센터 허용 여부를 결정해야 하는 극심한 권력 비대칭 상황이 벌어졌다. 이러한 권력 격차는 숫자로도 드러난다. 자원 격차로 인해 공공 부문은 기술 부문에 비해 혁신 역량(급여, 컴퓨팅 파워, 지식, 인재는 물론)에서 크게 뒤처져 있어, 국민을 위한 규칙을 만드는 능력이 심각하게 훼손되고 있다.

샤케는 “트럼프의 당선이 모든 것을 바꾸었다”며, 암호화폐 업계와 벤처캐피털의 지원을 받는 트럼프 행정부에서 특정 기술 기업의 이익이 미국 정책에 직접적으로 반영될 위험성을 경고한다. 

현재 진행 중인 권력 이동의 심각성을 효과적으로 드러내며 다양한 현실 사례를 들어 그 위험이 우리에게 직접적임을 보여준다. 샤케는 기술 그 자체가 문제가 아니라, 민주적 통제와 책임성의 부재가 진짜 위험이라는 점을 명확히 한다. 저자의 10년간 유럽의회 경험과 실리콘밸리 관찰이 만들어낸 독특한 관점, 추상적 논의가 아닌 실제 사건들을 통한 설득력 있는 논증, 기술 자체를 부정하지 않으면서도 그 정치적 함의를 예리하게 분석하는 균형잡힌 접근이 이 책의 강점이다.

AI 강국을 지향하면서도 민주적 가치를 수호해야 하는 딜레마를 어떻게 해결할 수 있을까. 샤케의 경고는 반기술적 정서가 아니라 기술의 민주적 거버넌스를 위한 건설적 비판이다. 적어도 현재 새 정부의 AI 정책수립 과정에 기술 기업들의 목소리만 강조되고 있지 않은지 돌아봐야 한다.