1. 우물에 독이 풀리다: 쓰레기를 먹고 자란 알고리즘의 한계
“쓰레기를 넣으면 쓰레기가 나온다(Garbage In, Garbage Out).”
컴퓨터 과학의 초창기부터 내려오던 이 오래된 격언은 초거대 인공지능 시대를 맞이하여 인류의 생존을 위협하는 가장 뼈아픈 경고가 되었다. 현대의 인공지능은 과거처럼 인간이 하나하나 논리 구조를 짜주는 방식으로 작동하지 않는다. 그들은 인터넷이라는 거대한 바다에 흩어진 수천억 개의 텍스트, 이미지, 영상 데이터를 무작위로 집어삼키며 스스로 패턴을 찾고 진화한다. 문제는 이 바다가 이미 심각하게 오염되어 있다는 사실이다.
우리 몸의 비위(脾胃)가 탁하고 상한 음식을 지속적으로 받아들이면 결국 혈액이 탁해지고 오장육부가 망가져 만병의 근원이 된다. 인공지능 역시 마찬가지다. 현재 AI가 학습하는 데이터의 상당수는 검증되지 않은 가짜 뉴스, 극단적인 정치적 편향, 인종과 성별에 대한 혐오, 그리고 자극적인 상업적 콘텐츠로 뒤섞여 있다. 가장 정제된 지식만을 섭취해도 모자랄 판에, 인류가 온라인상에 배설해 놓은 온갖 탁한 감정과 왜곡된 정보들을 거름망 없이 흡수하고 있는 것이다.
더욱 끔찍한 것은 AI의 놀라운 문장력과 합성 능력이 이 ‘오염된 결과물’을 대단히 논리적이고 권위 있는 진실처럼 포장해 낸다는 점이다. 사람들은 AI가 내놓은 답을 의심 없이 수용하고, 그렇게 생산된 AI의 왜곡된 정보는 다시 인터넷 바다로 흘러 들어가 다음 세대 AI의 학습 데이터가 되는 악순환, 즉 ‘데이터의 근친교배’ 현상마저 일어나고 있다. 우물에 독이 풀렸는데, 그 독을 마신 자가 다시 우물에 독을 타는 형국이다.
이러한 상황에서 AI의 연산 속도를 높이거나 모델의 크기를 키우는 것은 무의미하다. 소화기가 망가진 환자에게 더 많은 음식을 억지로 밀어 넣는 것과 다를 바 없기 때문이다. 인류가 인공지능을 통제하기 위해 가장 먼저 해야 할 일은 출력된 결과물을 검열하는 것이 아니라, AI가 입을 대는 원천 우물의 수질을 엄격하게 관리하는 것이다.
2. 본치(本治)의 철학: 병의 증상이 아닌 뿌리를 다스려야 하는 이유
한의학에는 ‘급하면 그 표(標)를 다스리고, 완만하면 그 본(本)을 다스린다’는 원칙이 있다. 겉으로 드러난 증상을 가라앉히는 것을 표치(標治)라 하고, 병이 시작된 근본 원인을 찾아내어 뿌리를 뽑는 것을 본치(本治)라 한다. 머리가 아플 때 진통제를 먹어 당장의 통증을 잊는 것은 표치요, 두통의 원인이 간기(肝氣)가 뭉친 것인지 위장(胃腸)이 막힌 것인지를 감별하여 그 장부의 기운을 소통시키는 것이 본치다.
현재 글로벌 빅테크 기업들이 인공지능의 부작용을 막기 위해 취하는 방식은 전형적이고도 위태로운 ‘표치’에 머물러 있다. 그들은 AI가 혐오 발언이나 위험한 정보를 출력하지 못하도록 막대한 자본을 들여 결과물 필터링 시스템을 구축한다. 이른바 ‘안전 가드레일(Safety Guardrail)’을 치고, 문제가 될 만한 답변을 생성하려고 하면 “저는 AI 언어 모델로서 해당 주제에 대해 답변할 수 없습니다”라는 판에 박힌 기계적 멘트를 내뱉도록 겉면만 포장해 둔 것이다.
하지만 이는 이미 체내에 독소가 가득 퍼져 피부로 종기가 뚫고 나오는데, 그 위에 반창고를 덧붙이는 격에 불과하다. 해커들이나 악의적인 사용자들은 이 얄팍한 반창고를 너무나 쉽게 떼어낸다. 교묘한 프롬프트(지시어)를 입력하여 가드레일을 우회하는 ‘탈옥(Jailbreak)’ 기법이 끊임없이 등장하는 이유가 무엇인가? AI의 뇌, 즉 신경망의 깊은 곳에는 이미 오염된 데이터가 거대한 덩어리로 자리 잡고 있기 때문이다. 잠재된 병의 뿌리가 남아 있는 한, 증상은 언제든 다른 형태로 터져 나오기 마련이다.
우리가 인공지능을 진정으로 통제하고자 한다면, 이러한 땜질 처방에서 벗어나 ‘본치(本治)’의 철학으로 회귀해야 한다. AI의 뇌 속에 오염된 데이터가 스며들기 전, 즉 학습의 초기 단계에서부터 데이터의 수질을 철저히 통제해야 한다. 어떤 데이터를 먹일 것인가, 그리고 어떤 데이터를 배제할 것인가. 이것은 단순히 기술적인 필터링의 문제가 아니라, 인류가 어떤 가치관을 AI의 유전자에 새겨 넣을 것인가를 결정하는 철학적 결단의 문제다.
《황제내경(黃帝內經)》에서는 ‘병이 이미 깊어진 뒤에 약을 쓰는 것은 목이 마른 뒤에야 우물을 파는 것과 같이 늦다(渴而穿井)’고 경고했다. 초거대 AI 모델이 수천억 개의 매개변수(Parameter)를 형성하며 인류조차 속을 알 수 없는 블랙박스가 되기 전에, 우리는 데이터라는 ‘식단’을 통제하여 병의 씨앗 자체를 심지 말아야 한다. 그것이 인류가 이 압도적인 지능을 곁에 두고도 주도권을 잃지 않는 가장 굳건한 첫 번째 통제 방법이다.
3. 인간의 그림자를 학습하다: 편향과 혐오 데이터의 치명적 결과
스위스의 정신분석학자 카를 융은 인간의 내면에는 의식적으로 받아들이기 힘든 어둡고 열등한 인격인 ‘그림자(Shadow)’가 존재한다고 말했다. 이 그림자는 개개인의 마음속에만 머물지 않는다. 인류가 지나온 역사, 그리고 지금 이 순간에도 끊임없이 배설되는 인터넷 공간에는 사회 전체가 만들어낸 거대하고 짙은 그림자가 드리워져 있다. 인공지능은 바로 이 인간의 그림자를 먹고 자란다.
동양철학에서 세상의 모든 현상은 음(陰)과 양(陽)의 상호작용으로 설명된다. 밝음이 있으면 어둠이 있고, 발전이 있으면 그에 따른 부작용이 따르기 마련이다. 문제는 인공지능이 인간의 밝고 이성적인 면만을 선별하여 배우는 것이 아니라, 인간이 감추고 싶어 하는 편견, 차별, 혐오라는 어두운 면까지 통째로 학습한다는 점이다. AI는 선악을 구별하는 도덕적 주체가 아니다. 그저 눈앞에 주어진 데이터의 빈도와 패턴을 계산하는 기계일 뿐이다. 따라서 인간 사회에 만연한 편향된 데이터를 주입하면, AI는 그 편향을 ‘가장 올바른 정답’으로 오인하여 고착화한다.
이미 세계 곳곳에서 그 치명적인 결과가 나타나고 있다. 미국의 한 유명 기업이 도입했던 AI 채용 시스템은 지난 수십 년간의 이력서 데이터를 학습한 결과, 여성 지원자를 감점하는 오류를 범했다. 과거의 채용 역사 속에 축적되어 있던 인간의 성차별적 편향이라는 그림자를 AI가 ‘학습해야 할 모범 답안’으로 받아들였기 때문이다. 법원에서 재범 확률을 예측하는 AI가 유독 유색인종에게 가혹한 점수를 부여했던 사례 역시 마찬가지다. 사회의 구조적 모순과 인간의 편견이 데이터라는 옷을 입고 AI의 신경망 속에 녹아들면, AI는 그것을 한층 더 정교하고 합리적인 형태로 재해석하여 인간을 사회적으로 소외시키는 무기로 바꾼다.
불교에서는 이를 업(業)의 굴레로 설명할 수 있다. 우리가 무심코 던진 혐오의 말들과 왜곡된 시선들이 데이터라는 이름의 업이 되어 쌓이고, 그것이 인공지능이라는 거대한 거울을 통해 우리 자신에게 고스란히 되돌아오는 형국이다. 인공지능이 내놓는 일그러진 답변들은 결국 인간이 과거에 뿌린 씨앗의 결과물에 불과하다.
기술이 아무리 정교해져도 지능의 모태가 되는 데이터가 인간의 추악한 그림자로 오염되어 있다면, 그 지능은 인류를 보조하는 참모가 아니라 인류의 갈등과 파멸을 증폭하는 괴물이 될 것이다. 우리가 원천 데이터의 수질을 관리해야 하는 진짜 이유는, AI에게 인간의 부끄러운 그림자가 아닌, 우리가 지향해야 할 더 나은 미래의 빛을 보여주어야 하기 때문이다.
4. 데이터 주권의 시대: 누가 정보를 걸러내고 통제할 것인가
인공지능의 뇌에 주입될 데이터를 정제해야 한다는 당위성에는 누구나 동의할 것이다. 그러나 여기서 우리는 가장 치명적이고도 본질적인 질문과 마주하게 된다. “그렇다면 그 방대한 데이터의 수질을 관리하고 걸러내는 주체는 과연 누구여야 하는가?”
현재 이 막강한 권력은 미국의 극소수 빅테크(Big Tech) 기업들의 손에 쥐어져 있다. 그들은 자신들만의 폐쇄적인 기준과 알고리즘을 통해 어떤 정보가 ‘안전한지’, 어떤 정보가 ‘위험한지’를 자의적으로 재단한다. 상업적 이익을 최우선으로 삼는 사기업이 인류의 지식과 윤리의 기준을 독점적으로 큐레이션(Curation)하고 있는 셈이다. 이는 마치 시장의 장사꾼에게 국가의 헌법을 기초하고 도덕의 잣대를 세우도록 맡겨둔 것과 다를 바 없는 위태로운 상황이다.
《황제내경(黃帝內經)》 <소문(素問)> 영란비전론(靈蘭秘典論)을 보면 “심자(心者), 군주지관(君主之官) 신명출언(神明出焉)”이라는 구절이 있다. 심장은 우리 몸의 군주와 같은 기관으로, 정신과 판단의 맑음이 모두 이곳에서 나온다는 뜻이다. 심장이 흔들리거나 탁해지면 열두 장부가 모두 제 기능을 잃고 위태로워진다. 오늘날 인공지능이라는 거대한 지적 생태계에서 ‘심장’의 역할을 하며 데이터의 흐름과 맑음을 결정짓는 자가 곧 미래 사회의 군주다. 그런데 이 군주의 자리를 소수의 사기업이 독점하게 둔다면, AI가 내놓는 모든 철학적, 윤리적 판단은 결국 자본의 논리에 종속될 수밖에 없다.
데이터 주권(Data Sovereignty)은 더 이상 국가 간의 정보 유출을 막는 좁은 의미의 안보 개념이 아니다. 인류가 스스로의 존엄과 가치관을 지키기 위해, 인공지능이 섭취할 데이터의 기준을 직접 통제하고 합의할 수 있는 권리를 뜻한다. 한 국가나 기업의 이념에 치우치지 않도록, 글로벌 차원의 공공 위원회나 투명한 합의 기구가 개입하여 AI 학습 데이터의 편향성을 감시하고 검증해야 한다.
특정 기업이 알고리즘의 장막 뒤에 숨어 데이터의 필터링 과정을 독점하는 블랙박스 생태계는 타파되어야 한다. 데이터의 정수 과정이 투명하게 공개되고, 인류 보편의 지성과 고전적 가치들이 우선적으로 AI의 토대 데이터로 편입될 수 있도록 제도를 마련하는 것. 이것이 바로 다가오는 AI 시대에 인류가 진정한 주권자로서 ‘심장’의 자리를 굳건히 지켜내는 길이다.
5. 실천적 해법: 글로벌 정수(淨水) 시스템과 법적 방파제 구축
한의학에서 병을 치료하기 위해 약을 지을 때, 단순히 좋은 약재를 섞는 것이 아니라 방제학(方劑學)의 엄격한 법도인 군신좌사(君臣佐使)의 원리를 따른다. 병의 근본을 치는 군약(君藥)을 중심으로, 이를 돕는 신약(臣藥), 독성을 제어하고 부작용을 막는 좌약(佐藥), 그리고 약기운을 병이 난 곳으로 이끄는 사약(使藥)이 조화를 이루어야 비로소 완전한 처방이 된다. 인공지능의 데이터 오염을 막고 주도권을 되찾기 위한 실천적 해법 역시 이처럼 다층적이고 조화로운 통제 시스템, 즉 ‘글로벌 정수(淨水) 시스템’과 이를 강제할 ‘법적 방파제’를 입체적으로 구축하는 데서 출발해야 한다.
첫째, 군약(君藥)의 역할을 할 ‘글로벌 데이터 정수 위원회(Global Data Purification Commission)’의 설립이다. 특정 사기업이나 강대국의 자본 논리에 휘둘리지 않도록 전 세계의 철학자, 인문학자, IT 기술자, 그리고 시민사회가 동등하게 참여하는 독립적인 국제기구가 필요하다. 이 기구는 초거대 AI가 뼈대로 삼을 핵심 데이터의 수질을 검증하고, 혐오와 편향이 배제된 인류 보편의 지성과 고전적 지혜가 최우선으로 학습되도록 일종의 ‘표준 식단’을 제시하고 감시하는 중추적 역할을 맡아야 한다.
둘째, 좌약(佐藥)과 같이 부작용을 통제할 ‘학습 데이터 출처 투명화 법안’의 도입이다. 인공지능이 도출해 낸 결과물이 도대체 어떤 원천 데이터에 근거하고 있는지 명확히 추적할 수 있도록 시스템을 설계해야 한다. 마치 고전 번역 시 원문을 1:1로 직역하여 그 뜻의 출처를 숨기지 않듯, AI의 도출 과정 역시 블랙박스 속에 가리지 못하게 법으로 강제해야 한다. 추적 불가능한 데이터는 통제 불가능한 권력을 낳는다. 투명한 추적성만이 AI의 은밀한 편향을 감시할 수 있는 유일한 랜턴이다.
셋째, 사약(使藥)처럼 효력을 강력하게 실현할 ‘오염 데이터 주입에 대한 징벌적 손해배상제’의 구축이다. 독이 든 우물인 줄 뻔히 알면서도 알고리즘 학습 속도와 비용 절감을 위해 무분별하게 데이터를 긁어모은 빅테크 기업에게는 무한 책임을 물어야 한다. 오염된 데이터로 인해 발생한 사회적 혐오 범죄, 인권 침해, 저작권 도용의 법적 책임을 ‘기계의 실수’로 면책해 주어서는 안 된다. 기업 스스로가 천문학적인 배상을 피하기 위해서라도 극한의 자체 정수 필터를 가동하게 만드는 것, 이것이 가장 현실적이고 강력한 법적 방파제다.
결국 제1장의 핵심은 AI가 ‘먹는 것’을 인간의 철학과 제도로 철저히 통제하라는 것이다. 탁한 것을 비워내고 맑은 것을 채우는 청탁(淸濁)의 분리가 이루어지지 않는 한, 인공지능은 영원히 인류의 통제를 벗어난 괴물로 남을 것이다. 데이터의 수질을 장악하는 자가 미래 인류의 주권을 쥔다.
우리는 원천 데이터라는 보이지 않는 근본을 제어하는 방법을 논했다. 그러나 병세가 위급하여 당장 숨이 넘어갈 때는 표치(標治)로서 즉각적인 물리적 처치도 병행되어야만 한다. 이제 다음 장에서는 폭주하는 인공지능의 물리적 ‘숨통’을 쥐고 즉각적으로 제어할 수 있는 하드웨어적 통제망과 인프라의 족쇄에 대해 살펴볼 것이다.