1. 책임의 증발: ‘기계의 실수’라는 비겁한 변명
인류 역사상 모든 도구는 결함이 생겨 타인에게 피해를 입히면, 그 도구를 만든 자나 소유한 자가 책임을 져왔다. 다리가 무너지면 건축가가 처벌을 받고, 브레이크가 결함인 자동차가 사고를 내면 제조사가 막대한 배상을 한다. 권한과 이익을 취하는 자가 그에 상응하는 책임의 무게를 짊어지는 것은 사회를 지탱하는 가장 기본적인 윤리이자 법적 뼈대다.
그러나 초거대 인공지능 시대로 넘어오면서 이 당연한 명제가 흔들리고 있다. 글로벌 빅테크 기업들은 AI가 생성한 가짜 뉴스, 저작권 도용, 특정 인종이나 성별에 대한 차별적 판단, 심지어 물리적 자율 주행 사고에 직면했을 때 교묘한 변명으로 책임을 회피한다. “인공지능이 스스로 수천억 개의 매개변수를 통해 학습하고 추론한 결과이므로, 개발자인 우리조차 그 과정을 예측할 수 없었다.” 즉, 블랙박스의 불확실성을 방패 삼아 책임을 ‘기계의 실수’로 전가하고 증발시켜 버리는 것이다. 기계에게는 법적 인격이 없기에, 결국 누구도 온전한 책임을 지지 않는 기형적인 사각지대가 발생한다.
2. 결자해지(結者解之)와 업(業)의 승계
동양의 깊은 지혜인 결자해지(結者解之)는 매듭을 묶은 자가 그것을 풀어야 한다는 준엄한 원칙이다. 원천 데이터를 긁어모아 AI의 뼈대를 세우고, 알고리즘이라는 매듭을 엮어 세상에 풀어놓은 자는 다름 아닌 개발사와 그들을 후원한 자본이다.
불교의 업(業)의 논리로 보아도 마찬가지다. 무기를 만들어 판 자는 그 무기가 일으킨 살생의 업에서 자유로울 수 없다. 하물며 스스로 판단하고 진화하는 지적 무기를 만들어 막대한 부와 권력을 독점하는 기업들이라면, 그 AI가 사회에 흩뿌리는 혼란과 파괴라는 악업(惡業) 역시 100% 그들의 장부에 기록되어야 마땅하다. 인공지능이 스스로 사고를 쳤다는 핑계는, 맹견의 목줄을 풀어놓은 주인이 “개가 혼자서 사람을 물었으니 내 잘못이 아니다”라고 우기는 것과 같은 궤변이다. 만든 자가 기계의 모든 업을 짊어지는 것, 그것이 통제의 진정한 출발점이다.
3. 자본을 움직이는 가장 강력한 통제: 무한 책임의 공포
자본주의 사회에서 거대 기업을 통제하는 가장 확실하고도 유일한 방법은 윤리적 호소나 철학적 논쟁이 아니다. 바로 ‘무한 책임’이라는 자본의 공포를 심어주는 것이다.
만약 항공기 제조사가 비행기 추락 시 탑승객 전원의 목숨에 대해 회사가 파산할 수준의 무한 배상 책임을 지지 않는다면, 그들은 수만 번의 시뮬레이션을 돌리고 이중 삼중의 안전장치를 설계하는 수고를 하지 않을 것이다. 인공지능도 마찬가지다. AI가 내뱉은 혐오 발언이나 잘못된 정보로 한 개인의 인생이 파탄 났을 때, 혹은 잘못된 코드 생성으로 국가 인프라가 마비되었을 때, 그 개발사가 수문장 역할을 다하지 못한 대가로 천문학적인 징벌적 손해배상을 해야 한다면 상황은 완전히 달라진다.
기업은 파산을 피하기 위해서라도 스스로 앞서 언급했던 ‘글로벌 정수 시스템(1장)’을 필사적으로 가동할 것이며, 시스템이 폭주하기 전에 즉각적으로 전원을 내릴 수 있는 ‘물리적 킬 스위치(4장)’의 성능을 극한으로 끌어올릴 것이다. 외부에 의한 강제적 규제보다, 기업 내부의 생존 본능을 자극하여 스스로 완벽한 통제망을 짜게 만드는 것. 이것이 징벌적 손해배상과 무한 책임이 가진 진정한 힘이다.
4. 위험의 외주화 금지: 약관(約款)이라는 이름의 면책 조항 타파
현재 빅테크 기업들이 대중에게 AI 서비스를 제공할 때, 그들은 수십 페이지에 달하는 복잡한 이용 약관(Terms of Service)의 맨 뒷장에 “AI의 답변은 부정확할 수 있으며, 이로 인해 발생하는 모든 책임은 사용자에게 있다”는 독소 조항을 숨겨둔다. 막대한 구독료와 데이터를 챙기면서도, 결함으로 인한 위험은 철저히 일반 대중(사용자)에게 외주화하고 있는 것이다.
우리는 이 비겁한 면책 약관의 법적 효력을 전면 무효화해야 한다. 자동차의 브레이크 결함을 운전자의 운전 미숙으로 덮어씌울 수 없듯, AI가 생성한 허위 사실이나 편향된 결과물로 인한 피해를 ‘질문한 자의 책임’으로 넘겨서는 안 된다. 인공지능 서비스를 출시한다는 것은 곧 완벽하게 길들지 않은 맹수를 도심 한복판에 풀어놓는 행위와 같다. 맹수를 푼 자가 모든 돌발 상황에 대해 무과실 책임(無過失責任, 고의나 과실이 없어도 책임을 지는 것)을 지도록 약관의 구조를 혁명적으로 뒤집어야 한다.
5. 실천적 해법: AI 무과실 책임법과 국제 연대 입법
이러한 철학을 현실의 제도로 안착시키기 위해서는 국가 간의 벽을 허무는 ‘AI 무과실 책임법’의 입법이 필요하다.
특정 국가가 단독으로 이 법을 시행하면 빅테크 기업들은 규제가 없는 다른 국가로 서버를 옮기며 법망을 빠져나갈 것이다. 따라서 국제사회가 연대하여, AI로 인한 중대한 피해(인명, 대규모 금융 손실, 딥페이크를 통한 선거 개입 등)가 발생할 경우 해당 AI 모델을 소유한 기업에 매출액의 일정 비율을 강제 징수하는 ‘징벌적 무과실 책임 조약’을 맺어야 한다.
또한, 중소규모 개발사나 오픈소스 생태계가 위축되지 않도록, AI 모델의 매개변수(Parameter) 크기와 연산력에 따라 책임의 무게를 차등 적용하는 정교한 입법이 수반되어야 한다. 가장 막강한 권력과 지능을 통제하는 자본이, 가장 무거운 배상의 십자가를 짊어지는 것. 이 단순하고도 명확한 족쇄만이 폭주하는 지능을 인간의 통제 아래 붙잡아 둘 수 있다.
Leave a Reply