PhD, Kayeon Lee

AI주권(Sovereign AI): 영토 위의 제국에서 클라우드 위의 제국으로

인간은 끊임없이 ‘나’와 ‘너’의 경계를 구분하고 확인해 왔다. 그것이 개체성과 존재의 증명이 되기 때문이다. 하지만 인류가 존재와 생존을 위해 경쟁만 한 것은 아니다. 고대부터 지금까지 인류는 공동 지향성을 통해 협력하며 인간 중심적이고 우월한 세계를 구성해 왔다(이가연 2024c). 그러한 인간 중심적 세계는 ‘영토’가 기반이 되었다. 하지만 인공지능의 출현은 지구상에서 우월한 위치를 차지했던 인간 중심적 사유와 생활방식을 해체하고 있다(이가연 2024c; 이가연 2025) 근대 이후 비인간 행위자의 영향력 확대는 인간이 추구한 배타적 위계성을 파괴하는 경향을 보여준다. – 이 문단의 자세한 내용은 이가연(2024c)와 이가연(2025)에서 확인하실 수 있습니다.

근대 국가와 주권은 경계를 명확히 하여 배타성(exclusivity)을 확립한 것에서 출발했다. 주권체는 이러한 국가간의 경계를 바탕으로 정부의 최상위성(supremacy)과 독립성(independence)을 특징으로 한다. 만약 어떤 행위자가 어느 공간을 점유한다면 그것은 경계를 그어 배타성(exclusivity)을 화보하는 것을 의미한다(이가연 2024b). 하지만 문제는 우주공간이나 사이버공간은 인간 중심적 사고로 나누어 주권을 주장하는 것이 모호하다는 것이다. 데이터 현지화(Data localization)는 이처럼 영토를 기반으로 주권의 경계를 명확히 하고 데이터의 흐름을 통제하는 것이다(이가연 2023). 본래 트럼프 행정부 등장 이전까지 미국은 자유로운 시장에 개반한 데이터의 자유로운 이동을 지지함으로써 미국 기업과 미국의 시장 지배를 잠식해 왔다. 반면에 중국은 영토를 기반으로 주권이 인권에 우선한다는 입장을 보이며 엄격한 데이터 통제와 자국민의 데이터 수집 및 활용을 통해 자국 기업의 성장을 장려했다. -이 문단의 자세한 내용은 이가연(2023)과 이가연(2024b)에서 확인하실 수 있습니다.

초기 인터넷은 미국에서의 이니셔티브를 기반으로 발전했기 때문에 글로벌 인터넷에 대한 미국의 영향력은 지대하다(O’Hara and Hall, 2018). 하지만 최근 패러다임의 전환기와 중국 등 추격자의 등장이 미국의 이러한 지위를 압박하고 있다. 인터넷의 초기 제작자는 인터넷이 공개 표준, 즉 표준이 투명하고 데이터와 소프트웨어가 이식 가능하고 확장 가능하며 상호운용이 가능하도록 설계했다. 인터넷과 관련된 거버넌스 조직은 반사적으로 개방적 성격을 가지고 있으며 이러한 거버넌스의 개방성은 기술의 개방성을 낳는다. 사실 이러한 개방형 시스템은 인터넷 기술과 인간의 행위에 대한 자유를 넘어 이상주의적 아이디어와 연관된다(O’Hara and Hall, 2018). 개방형 시스템을 선호하는 사람은데이터이동의 속도와 효율성 뿐만 아니라 보다 자유로운 언론, 기관 등 자유로운 인간 행위에 초점을 맞춘다. 인터넷은 사람들이 진정으로 자율적으로 개발할 수 있게 해주므로 자유로워야 한다는 것이다. -이 문단은 이가연(2020)에서 발췌한 것입니다.

데이터의 자유로운 흐름, 상호운용성(interoperability)을 둘러싼 상이한 시각은 개인정보보호 및 인권 문제와 연계되어 있으며 이에 대한 의견 대립은 글로벌 데이터 표준협력을 더욱 어렵게 한다. 중국과 유럽은 개인정보보호를 앞세워 ‘데이터 주권’을 내세우는 반면, 미국과 캐나다는 투명성과 효율성을 기반으로 데이터의 자유로운 흐름을 지지하는 개방적 표준의 제정 및 감독을 담당하는 글로벌 데이터 거버넌스의 수립을 선호하고 있다. 데이터를 둘러싼 이러한 시각차이는 개인정보 취급과 인권문제뿐만 아니라 중앙집중형과 분산형, 이외에 인공지능을 둘러싼 윤리 철학적 문제와 맞닿아 있다. 사실 이는 자유주의와 권위주의 관념의 충돌일 뿐만 아니라 자유주의 관념 안에서도 무엇으로부터의 자유인지(freedom from), 무엇을 할 자유인지(freedom to)에 대한 문제들이 대립하고 있는 것이다. -이 문단은 이가연 2020에서 발췌한 것입니다.

초기의 자유주의적 인권은 사회적 계약으로 인해 자연권의 일부를 포기하게 되었지만 생존권ㆍ자유권ㆍ평등권의 기본 권리는 유지해야 한다는 생각에서 시작되었다. 로크(JohnLock)는 ‘인권’은 다른 종교에 대한 ‘관용’을 의미한다고 하였다. 미국의 인권 개념은 행위자가 국가가 아니라 개인이라는 자유주의 사상에서 비롯되었으며 이는 국가 권한의 제한으로 이어진다. 반면,러시아와 중국의 맑스주의로부터 비롯된 인권이란 쟁취해야 할 노동자의 집단 생존의 권리 이상의 의미를 지니지 못했다(박한규, 2014). 1991년 11월 중국 인민일보의 ‘인권백서’는 “생존권은 중국 인민이 오랫동안 싸워 얻게 된 가장 중요한 인권”이라고 표현한 바 있다(人民日报, 1991). 즉, 공산주의에서의 인권은 무산계급의 절대 다수인이 누리는 인권이라는 것이다. – 이 문단은 이가연 2020에서 발췌한 것입니다.

소버린 AI는 국가나 지역이 타국에 의존하지 않고 자국의 데이터, 인프라(GPU/컴퓨팅 파워), 인력 및 문화를 바탕으로 독립적인 인공지능 역량을 보유하고 통제하는 것을 의미한다. 이러한 담론이 나오게 된 배경에는 현재 LLM(거대언어모델) 시장은 미국(오픈AI, 구글, 메타)이 독점하고 있는 현실이 있다. 타국의 모델을 그대로 수입해 쓰는 국가는 데이터 주권과 통치 기반을 미세하게 잠식당한다. 타국의 AI를 쓰는 것은 타국의 가치관이 설계한 렌즈로 자국의 정책을 결정하는 것과 같다. 실리콘밸리 기반의 AI는 서구적 가치, 영어권 문화에 편향되어 비서구권 국가의 역사, 윤리, 법적 맥락을 정확히 반영하지 못한다. 자국 고유의 언어와 문화를 학습한 AI가 없다면, 미래 세대는 외국 AI가 정의한 ‘정답’에 길들여질 것이다. 이는 문화적 통치 기술의 핵심이며, AI는 새로운 제국주의의 첨단 병기가 된다. 하지만 ‘주권’에 대한 과도한 강조와 배타성 역시 민족주의와 국가간의 경쟁을 야기해 세계를 위험에 빠트릴 수 있다. 자칫 잘못하면 비대해진 국가권력에 의해 개인의 자유가 희생당할 우려도 있다. 이것은 국가권력에 통제당하거나, 자본기업에 통제당하거나 하나를 선택해야 하는 문제가 되지 않도록 균형을 잘 잡아야 한다. 그리고 그 균형을 잡는 것에 공동체적 가치를 보존하고 있으면서도 시장 자유를 유연하게 받아들인 대한민국이 중심에 있어야 할 것이다.

다음의 논문에서 더 자세한 내용을 읽으실 수 있습니다.

댓글 남기기