[도서출판 갈무리 × 서울과학기술대 미래이후연구소]

『비인간 권력』출간 기념 저자 강연 및 토론 공동 세미나 토론문

서울과학기술대학교 김소형

저자들은 AI를 동력으로 삼은 자본주의에서 노동 계급이 재구성되고 있음을 설명하면서 다음과 같이 두 가지 지점을 설명합니다. 첫째로 기계학습을 만든 데이터 과학자 및 정제 담당자가 그 생산물로 인해 자신들의 일자리가 더 이상 지켜질 수 없음에도 그 일을 해야만 하는 상황에 놓여 있는데, 이는 달리 말해 고도의 생산력을 중심에 둔 생산 양식의 역설입니다. 둘째로 자동화 시스템으로 인한 노동의 불안정이 지역적 차원이 아닌 노동 전반에 걸쳐 나타나고 있다는 점입니다. 특히 현재 AI는 온라인 미세노동에 의존하고 있는데, 이는 AI가 인간의 저임금·불안정 노동을 핵심으로 한 자본주의적인 기술 방식임을 여실히 보여주는 사례라 할 수 있겠습니다. 물론 지금의 AI 기술 이전에도 플랫폼 노동 관리에도 알고리즘이 사용되고 있었는데요. 이를 연장선으로 바라본다면, 21세기에 들어서며 자본주의 생산 양식에 따른 기술(알고리즘, AI) 발달로 무고용 및 저임금 노동으로 노동 계급이 장기 실업 상황에 빠르게 들어서고 있음을 저자들이 짚어주고 있어 많은 부분 동의하며 책을 읽을 수 있었습니다.

하지만 한편으로 몇 가지 궁금증이 생기는 점도 있었는데 우선 저자들은 오페라이스모(Operaismo) 전략으로서 거부(refusal of work)에 대한 사례로 완전 자동화에 대한 대중적 정서 분출을 투쟁의 칠각형으로 제시하였는데요. 7개의 사례 나열이 아닌 이를 칠각형이라 할 때, 오페라이스모의 ‘거부’로서, 요컨대 인간 활동을 제거하고자 하는 AI를 거부하는 어떠한 거부 모델링(refusal modeling)을 상정하고 있는지 궁금하여 질문 드리고 싶습니다.

두 번째로 저자들은 유발 하라리(Harari, Yuval)와 머리 샤나한(Shanahan, Murray)을 따라 노동을 의식에서 분리될 수 있다고 주장하고 있습니다(250쪽). 이에 대해 저도 일정 정도 동의하는 바인데, 자본주의 체제에서 인간의 노동은 의식적 차원에서뿐만 아니라 무의식적 혹은 비의식적 차원에서도 수행되고 있다고 생각하기 때문입니다. 그런데 인간의 노동을 자본주의 방식의 ‘노동’으로만 이해한다면 이는 AI가 인간의 노동을 에뮬레이션(emulation)한다는 것에 동의할 수 있겠으나, 인간의 노동이란 지구-자연과 교류, 인간과 인간 사이의 돌봄, 인간종이 아닌 다른 생명체들과 공존을 모색하는 정치적·정서적 활동 등이 포함된 것이라 할 때는 노동과 의식이 분리 가능한 것인지 확신할 수가 없습니다. 이에 대한 저자분들의 답변을 들어보고 싶습니다.

마지막으로 책 결론에서 제시하는 코뮤니즘적 AI와 관련된 두 가지 질문 사항입니다. 먼저 저자들은 AI를 공공 유틸리티(public utility)로 대할 때, 비로소 ‘일반 지성’으로서 기능할 수 있게 되며, 이를 모색하는 과정에서 자유주의 공통인들과 국가-지향적 사회주의자들 간의 지속적인 대화와 논쟁이 중요하다고 언급합니다. 그러나 저자들의 표현에 따라 이런 ‘거대한 연합’이 사회적 공공재로서 AI를 공공 유틸리티로 취급하는 문제, 그리고 탈성장 경제 시스템 도입으로만 해결할 수 없으며, 이는 코뮤니즘적 AI에서 정치의 영역이 무엇보다 중요하게 논의하고 논쟁해야 하는 차원이 됐음을 보여주는 반증이라고 생각합니다. 게다가 자유주의 공통인들과 국가-지향적 사회주의자들 간의 현재 정치적 지형이 얼마만큼 다른지 유의 깊게 살펴볼 필요가 있을 것 같습니다. 이를 테면 AI 소버린(sovereign)을 논할 때 자유주의 공통인들과 국가-지향적 사회주의자들 간에 어떠한 측면은 결과적으로 유사한 입장을 내놓을 때도 있기 때문입니다. 따라서 저자들이 대안적으로 제시하는 ‘집합적 의사결정’에서 ‘선택하지 않은 길’의 가능성이 무엇인지 더욱 듣고 싶습니다.

결론에 관한 마지막 질문은 비인간적인 코뮤니즘과 관련된 내용입니다. 저자들은 AI 자본에 맞서 새롭게 출현하게 될 ‘인간’은 투쟁에 들어섰던 시점의 ‘인간’과 다른 존재라고 언급합니다. 이때, 개인을 강화하는 트랜스휴머니즘 방식보다 포스트휴머니즘 방식의 상호주의와 협력적 관점으로서 탈주와 투쟁의 노선을 형성하는 ‘비인간적’ 코뮤니즘이 되어야 한다고 주장합니다. 저 또한 이러한 저자들의 주장에 동의하는 바이나, 인간 종만을 고려한다거나 인간을 중심으로 한 사회 체제가 아닌, 그리하여 맑스주의와 탈성장을 절합(articulation)하는 운동을 그려나가려면, 결국 핸들을 왼쪽으로 잡아 당겨야 하는 ‘인간’의 존재가 필요한 것은 아닐까요? 요컨대 비인간적 코뮤니즘이 되려면 먼저 ‘인간적’ 코뮤니즘이 오고 난 이후여야 하지 않을까요? 아직 오지 않은 비인간 존재들에 대한 질문과 이들의 사회 체제에 대한 고민이 과거와 현재를 살아가고 있는 인간들의 질문과 사회 체제에 대한 고민으로부터 출발해야 하는 것은 아닌지 질문드려보고 싶습니다. 감사합니다.

자본은 언제나 ‘비인간’이었고, 이제 AI를 통해 ‘인간-되기’를 갈망한다
- 『비인간 권력: 인공지능, 그리고 자본주의의 미래』 토론에 부쳐

신현우(한국예술종합학교, 『알고리즘 자본주의』 저자)

1. 기술의 발달과 자본주의 회전의 얽힘을 가장 비판적으로 분석한 문제작

가장 좌파적인 관점을 견지하는 석학들조차 로보틱스·AI·컴퓨터과학과 같은 기술발전이 ‘잘만 전유한다면’ 코뮌주의 유토피아를 창조할 수 있는 도구가 될 수 있다고 주장하는 경우가 많다. ‘완전히 화려하게 자동화된 공산주의’ 담론이나 좌파 가속주의, 보편적 기본소득에 관한 순진한 주장들이 ‘마부가 사라져도 택시 기사들이 그 자리를 채울 것’이라는 주류 경제학자들의 진단과 조응하고, 작업장에서 AI 자동화에 맞서 투쟁하는 노동자들의 외침을 어리석은 러다이즘으로 치부하는 사회적 분위기에 알리바이를 제공하는 풍경은 이 책의 구절을 빌리면 ‘AI 애니미즘’이 되어가는 중이다. 마르크스주의 전통은 자본주의의 모순이 생산력 자체에서 오는 것이 아니라 생산력과 자본주의적 생산관계가 불일치하는데서 비롯된다는 마르크스의 가르침을 의심하지 않으며, 현실 공산주의 또한 자본주의와 산업기술이 발달시킨 생산력은 그대로 둔 채 사회적 관계를 변혁시키는데 골몰해 왔다. 이런 점에서 보면 AI와 같은 혁신적인 기술이 등장했을 때 한 사회구성체가 입을 모아 ‘혁신’을 부르짖고, 자본가·관료·전문가집단과 유기적 지식인들이 각자의 방식으로 동상이몽을 꾸면서 기술의 폭주기관차를 더욱 가속시키는 풍경은 그다지 놀랄 일이 아닐 것이다. 이 책, 『비인간 권력』은 AI의 광풍 가운데서 마르크스의 노동가치론을 현대적으로 갱생시키는 중요한 저작이다. AI는 단순한 기계나 혹은 인류가 도구화할 수 있는 기술이 아니다. 마르크스가 공장의 가장 은밀한 장소를 탐색하며 공장 자체가 사회적 관계이고 기계가 곧 분업이라고 표현했듯이, AI는 하나의 기술체계인 동시에 자본주의의 역사적 변곡점에서 돌출한 새로운 사회적 관계라 할 수 있다. 문제는 이것이 기존의 자본주의 형태분석으로는 설명할 수 없는 힘 관계와 적대들을 현상하고 있다는 것이다. AI는 생산수단인가, 아니면 상품인가? 둘 다이기도 하고 둘 다가 아니기도 하다. 데이터센터, 알고리즘, 플랫폼을 포함하는 AI 생태계는 사이버네틱스의 자연물(즉 지대를 발생시키는 사이버 토지)인가? 그렇기도 하고 아니기도 하다. 만약 저자들의 주장대로 오늘날의 자본주의를 ‘AI 자본주의’라고 규정한다면, 이윤의 핵심은 잉여가치인가 지대인가? AI 자동화는 일자리에서 인간을 내쫓고 있는가 아니면 더 질 나쁘고 흔한 하인 일자리로 인간을 내몰고 있는가? 이런 질문들에 좌파 진영이 명쾌한 대답을 내놓고 있지 못하는 상황에서, 『비인간 권력』은 AI가 요술램프나 맨하탄 프로젝트의 산물이 아닌 그 자체가 자본주의의 역사적 운동의 한 국면이라는 사실을 일깨워주는 중요한 책이다.

2. 하부구조로서의 AI와 AI라는 ‘생산의 일반적 조건’

AI에 관한 가장 흔한 착시는 AI를 하나의 대상(object)으로, AI 현상을 대상성(objectivity)로 읽는다는 점이다. 이는 AI를 ‘스카이넷’이나 ‘HAL-9000’등으로 비유하는 수많은 평론가들의 글에서도 발견된다. 그러나 저자들이 지적하듯이, AI는 대상이나 대상성이 아니라 하나의 시스템이고 자본주의 운동의 하부구조이다. 이를 위해 책은 서론과 1장에 걸쳐 마르크스의 『그룬트리세』(특히 ‘기계에 대한 단상’)와 『자본론』의 15장 ‘기계와 대공업’을 치밀히 탐색하며 AI가 기계제 분업, 생산성을 높이기 위한 자동화, 그를 통한 잉여노동의 증대와 잉여노동인구 조절능력, 그리고 이윤율 저하 경향의 법칙에 이르는 치밀한 논증을 전개한다. 이를 통해 책은 AI가 단순한 생산수단이거나 조절시스템이 아닌, 하부구조이자 생산의 일반적 조건임을 밝힌다. “통신 및 운송의 수단, 생산 및 저장을 위한 건물의 일반적인 사용, 시장 즉 유통의 영역과 그 과정, 세계의 정치 질서, 과학·기술·공학의 일반적 상태, 다양하고 특정한 생산 형태들과 생산이 발생시키는 규모 및 속도가 곧 생산의 일반적 조건(47: 102)” 이면서, 이를 통해 자본주의는 “유통을 가속해 잉여가치의 추출과 시장에서의 가치 실현을 가속(47-48: 102-13)”한다. 요컨대 AI의 삶-활동으로의 편재는 ‘시간에 의한 공간의 절멸’이라는 자본주의 순환의 경향을 가속한다. 과거에는 공간의 절멸이 다른 대륙, 다른 지역의 시장과 유통망 등 물리적인 공간을 점유하는 제국주의 형태로 나타났지만, AI 국면에서는 이미 행성 전체가 자본의 제국이 되었으므로, 인간 신체 바깥의 행성 공간이 아닌 인간 내부의 신피질을 식민화하는 방향으로 선회한다. 이 논의는 이후의 저작 Cybernetic Circulation Complex(2026)에서 더욱 정교하게 논증되고 있다.

AI라는 생산의 일반적 조건은 이미 우리가 실생활에서 체감하고 있는 바다. 글을 쓰거나, 정보를 수집하거나, 소비를 하는 활동 외에도 우리는 삶-활동 대부분을 AI에 의존하지 않으면 안 되는 상황에 놓였다. 필자가 학생들에게 받는 무수한(AI로 작성된) 수업 관련 문의들이나 연애 상대의 반응을 AI에게 먼저 검토한 다음 행위하게 된 것이다. 저자들이 인용하는 스티글레르(Stiegler)의 ‘문법화(grammatization)’, 즉 감각기관, 신체 운동과 몸짓, 사회적 상호작용의 전체 패턴(97: 194)을 포함하는 탈숙련화는 노동자 뿐 아니라 인간 전체를 비인간 권력에 초포섭(hyper subsumption)시키고 있다. AI를 하부구조로 파악하는 이 책의 식견은 따라서 매우 탁월하다. 이제 겸손한 마르크스주의자들이 함부로 입에 내기 어려워했던 ‘AI 자본주의’라는 명명이 성립되기 때문이다. 우리가 ‘AI 자본주의’라고 부르려면 자본주의 생산양식에서 AI가 상수가 되었을 뿐 아니라 생산과정과 노동과정 그리고 상품의 유통과 순환 모두가 특정하게 변했음을 관찰해야 한다. 책은 생산수단과 비슷한 지위를 가진 ‘인지수단’으로 AI를 새롭게 정의한다. 사물인터넷, 스마트시티, 특히 앰비언트 지능에 의해 AI가 지각과 인지 기능을 학습한다면, 인간의 지식과 기술이 죽은 노동으로 전환되는 것을 넘어 죽은 노동 자체가 인간이 독점해온 지각과 인지라는 기본 능력을 갖출 뿐 아니라(58: 120) 인지자동화로 나아가게 된다. 인지 수단이 된 AI는 생산수단과 운송·통신수단 양쪽에 얽힌 새로운 기술 하부구조로 현상하며, 새로운 사이버네틱 생산양식을 정의하는 요인이 되게 된다(62: 128-129).

나의 첫 번째 질문은 이것이다. 만약 AI가 인지자동화, 인지 수단으로서 생산의 일반적 조건으로 자리잡았다면 매뉴팩처에서 대공업으로 넘어가던 19세기 산업자본주의처럼 AI 자본주의의 상부구조도 바뀔 터다. 특히 AI 자본주의 생산양식에서 정치와 법 제도가 어떻게 바뀌는가이다.

책은 일반적 조건이 적합하다면 생산양식은 탄력성, 즉 비약적으로 확장될 수 있는 능력을 획득한다고 마르크스를 인용한다. “한 시기의 일반적 조건들이 다음 시기에는 부적합하거나 견디기 힘든 족쇄가 될 수 있으며, 새로운 시기에 적합하도록 조정되거나 갱신되어야 한다(48: 103).” 봉건제 또는 매뉴팩처에서 자본주의로 전환되던 시기, 공화정과 자유주의, 사적 소유라는 새로운 정치가 등장했고 무대는 국가로 확장됐다. AI 자본주의에서는 ‘족쇄’가 되는 공화정을 자본주의 스스로 폐쇄하고, 빅테크가 인지수단 독점하는 ‘기술봉건주의’가 부상하는 것이 아닐까? AI와 디지털 서비스, 클라우드, 플랫폼을 독점한 빅테크들의 이윤은 상품 생산을 통한 잉여가치가 아닌 수수료, 이용료, 벌금 등 독점지대의 성격을 띠며 여기에 금융시장까지 더해지면 사실상 ‘렌티어-캐피털리즘’에 반민주적 정치가 더해지는 기술봉건주의가 실재인 것이 아닌가 하는 의문이다. 권리장전에서 명시된 인권과 20세기에 추가된 반독점법은 자본주의가 다중들에게 명시적으로 내세운 명분이었지만, 이것들조차 폐기되고 있는 상황이 서방 국가와 미국에서도 광범위하게 목격되는 중이다. 이렇게 된다면 이 책이 3장에서 펼치고 있는 상상적 전개, 즉 ‘AGI가 법인격을 획득한 뒤 프롤레타리아화 되어 가치를 창출하는(즉 생존을 위해 AGI가 일을 하는) 상황’ 이 아니라 ‘AGI가 스스로 자본가 또는 봉건 영주가 되는 디스토피아’가 먼저 연출되는 것이 아닌가? 이를 막아서기 위한 정치는 구체적으로 무엇이 되어야 할까? 불행히도, 포스트 오페라이스모 이론가들이 2000년대 초중반까지 제시했던 ‘다중의 정치’는 더 이상 유효하지 않는 것으로 보인다. AI가 하부구조가 되었을 뿐 아니라 생산관계를 스스로 재생산하는, AIdeology로 전화하는 현상 -랏자라또가 ‘machinic enslavement’라고 표현한- 집단저능과 노동계급의 우경화는 계급적대 자체를 불가능하게 만드는 것 같다. 책의 2장, ‘투쟁의 7각형’ 절에서 제시된 일곱가지 행동주의 강령보다 더 큰 정치 이념(대항AI이데올로기)이 요청되어야 할 것 같은데, 그것은 무엇이 되어야 할까?

3. ‘비인간’이라는 제 3섹터

책의 3장은 개인적으로 가장 흥미진진하게 읽었던 대목이다. 저자들이 에른스트 블로흐를 인용해 AI Novum 이라고 적절히 비유한 것처럼, 노동가치이론의 SF적 외삽법이 펼쳐지는 장이다. 핵심은 ‘노동은 과연 인간의 전유물인가?’(마르크스는 노동을 인간중심주의적으로 해석한 것인가?)에서 시작해, ‘AGI는 잉여가치를 창출할 수 있는가?’로 향하는 흐름이다. 책의 제목이 Nonhuman Power가 아니라 Inhuman Power 라는 점에 주목한다면, AGI가 노동할 수 있을 뿐 아니라 가치를 창출할 수도 있다는 3장 초반부의 선언이 맥거핀이라는 사실을 간파할 수 있겠다. 수많은 사람들이 AI와 관련해 흔히 착각하는 것은 AI(또는 기계)가 스스로 가치를 만들어낸다고 믿는다는 점이다. 아마 로봇이 반란을 일으키는 수많은 SF 영화의 클리셰들 때문인 것 같다. 이런 착시는 로봇이 노동자의 은유임을 간과한 채 기계신체를 가진 대상으로만 보기 때문에 발생한다. 책 2장이 자세히 논증하듯이 AI는 진공에서 태어난 것이 아니라 수많은 미세노동, 클릭워크 즉 인간 노동으로 쌓아 올려진 구조물이다.

3장의 설명을 잘 따라간다면, 우리는 AI가 인간과 다른 방식으로 감각·인지할 뿐 노동을 할 수도 있다는 사실을 깨닫게 된다. 마르크스는 1844년 수고에서 인간이 유적 존재, 즉 자유로운 의식적 활동을 통해 동물과 달리 삶을 영위하는 노동을 하는 존재임을 언명한다. 여기서 마르크스는 소외(alienation)라는 개념을 사용했다. 자본주의 생산양식이 인간의 참된 노동이 기계제 분업으로 탈구된다는 것이다. 저자들은 이를 통해 노동이 인간의 전유물이라는 마르크스의 인간중심주의적 접근을 비판하는 것처럼 보인다. 그러나 알튀세르가 전기 마르크스와 자본론 이후 후기 마르크스가 완전히 다른 개념임을 설명하며 자본론을 ‘이론적 반인간주의’의 산물이라고 해석했듯이, 자본론은 2장 이후 인본주의적인 접근이 아닌 자본주의 형태분석으로 나아간다는 점을 우리는 인지해야만 한다. 거미와 꿀벌의 건축과 인간의 건축 과정을 ‘상상력’의 과정의 유무로 설명하는 자본론의 유명한 구절은 사실 인간이냐, 비인간이냐가 아닌 노동을 통한 ‘신진대사’ 과정에 초점을 맞춰야 한다. 우리가 인간/비인간이라는 이분법으로 접근하지 않는다면 인간 노동의 특출난 성격은 ‘오토포이에시스’에 있고, 인간과 동물의 교집합은 ‘항상성(homeostasis)’에 있다는 점을 간파할 수 있다. 핵심은 인간이냐 비인간이냐가 아니라, AI가 지금까지 피드백을 통한 항상성의 시스템에서 자기학습과 자기 보완, 자기 생성이 가능한 오토포이에시스로 진화하고 있다는 점이다.

이런 관점에서 보면 현재의 AI가 AGI로 전화하기까지는 시간문제에 불과하다. 책이 출간된 2019년 시점에서는 AGI가 판타지처럼 여겨졌지만 지금은 많은 컴퓨터 과학자들이 10년 혹은 길게는 30년 내에 AGI가 등장할 것으로 예측한다. 현재의 파운데이션 AI 모델들은 이미 부분적으로 자기생성적이고 보완적인 기능을 갖추고 있다. 그것이 꼭 ‘의식’의 층위에서 행해질 필요도 없다. AI에게 신체가 필요 없는 것처럼 의식이 필수적인 것도 아니다. AI라는 비인간 행위자가 인간 행위자들에게 알게 모르게 명령하거나 행위 유도를 하는 것만으로도 충분하다. 다시 말해, AI는 이미 부분적으로는 인간처럼 노동하고 있다.

그러나 AI가 노동하는가와 AI가 잉여가치를 창출하는가는 별개의 문제다. 노동은 노동력과 동의어가 아니다. 마르크스는 『고타 강령 비판』에서 이렇게 적고 있다. “노동 자체는 하나의 자연력인 인간의 노동력의 발현일 뿐이며 인간이 노동 수단 및 노동 대상의 일차적 원천인 자연에 대해 소유자로서 관계를 맺는 한에서만, 즉 자연을 인간에 속하는 것으로 취급하는 한에서만 인간의 노동은 사용가치의 원천이자 부의 원천이 된다.” 책은 AI가 프롤레타리아화 돼서 생존을 위해 일을 하는 상황에 한해서만 AI가 잉여가치를 창출할 수 있다는 사고실험을 길게 이어간다. 즉 AI가 인지수단을 활용해 인간처럼 노동할 수 있지만 AI노동과 AI 노동력은 별개의 문제이다. 이는 AI의 결과물의 사용가치와 교환가치를 혼동해서는 안 된다는 교훈을 아이러니하게 알려주고 있다.

그렇다면 Inhuman Power는 무엇을 의미하나? 나의 해석은 AI의 ‘비인간 노동’을 통해 만들어진 무수히 많은 사용가치들을 교환가치로 전환시킬 수 있는 자본의 힘을 뜻한다. 즉 자본/노동 사이의 전통적인 이분법적 적대 관계가 허물어지고, 그 사이에 비인간 노동이라는 제3 섹터가 생성된다는 것이다. ‘비인간 권력’이란 인간이 수행하던 노동과정에서 극적인 생산성 증대와 상대적 잉여가치 착취를 가속하는 한편, 로지스틱스 부문에서 완벽한 저스트-인-타임을 실현한다. 동시에 계급의 구성을 가로막고 적대를 완충시키는 자본주의의 제3 행위자로 나타나는데, 그것을 우리는 AI로서 마주하고 있다는 것이다. 과거에는 자본가들에게 직접 깃발을 흔들며 반란을 일으켰지만, 이제 우리는 자본가들에게 항의하기 전에 먼저 알고리즘과 AI가 어떻게 되어있는지를 파악해야 하고 자본가들(혹은 기술봉건 영주들)은 이 문제를 AI와 해결하라고 한 뒤 실리콘 장막 뒤로 숨고 있다. 이 제3 섹터에서는 비인간노동과 인간노동의 혼종, 비인간 행위자와 인간 행위자의 교차와 분해가 활발하게 일어나고 있지만 결국 잉여가치가 인간이건 비인간이건 ‘노동력’의 착취를 통해서만 발생한다는 명제가 더욱 뚜렷해질 뿐이다. 하지만 현재의 상황으로 보건데 AGI는 노동력을 착취당하는 피지배자가 아니라 노동력을 더욱 효과적으로 착취하는 지배자, Inhuman Power로 부상할 공산이 크다. 제3섹터 비인간 노동은 점진적으로 자본가-노동자 적대를 비가시화하고 인간 노동력을 탈상품화하며 노동자들을 포함한 시민 세력이 연대하거나 싸울 수도 없게 만드는 방식으로 현상되는 중이다.

정리해 보자. Inhuman Power는 Nonhuman Power(Labour Power)를 지배한다. Nonhuman은 역설적이게도 Inhuman이 될 수 없다. 인간만이 (특히 자본가들이) Inhuman하게 행위할 수 있다. 동물들은 피식자를 잡아먹거나 같은 종의 다른 개체들을 공격하긴 하지만 착취하지는 않는다. 마지막 질문은 여기에 있다. AGI나 ASI의 등장보다 더 우려스러운 것은 AI(인공신경망)와 인간 신피질이 물리적으로 연결되는 순간이 아닌가 하는 것이다. ‘인지 수단’을 점점 확대해야 한다면 가장 빠른 방법은 온갖 열에너지와 소비(데이터센터, 희토류, 각종 센서, 사물인터넷 등)가 동반되는 방식이 아니라 인간에 직접 연결되는 방법일지도 모른다. 인간의 노동이 점점 Nonhuman으로 합치되어가는 것과 대조적으로, AI는 인간을 닮아가기에 Inhuman Power가 되어가는 것이 아닐까?

『비인간 권력』 출간 기념 저자 강연 및 토론 공동 세미나 2026. 5. 9. 20~22 p.m.

이광석 패널 토론자 (서울과학기술대 교수. 미래이후연구소장 / 〈피지털 커먼즈〉 저자)

갈무리 출판사와 이번 행사를 공동 주관한, 서울과학기술대학교 미래연구소장 이광석이라 합니다.

오늘 AI 자본주의 국면에서 대단히 중요한 책인 〈인휴먼 파워〉를 읽고, 오늘 게다가 세 저자분의 새로운 발표까지 듣고 이렇게 논평하게 되어 큰 영광으로 생각합니다.

저는 그간 디지털 자본주의의 (자연-사회-인지) 생태계 추출주의 체제에 맞서, 체제 전환을 위한 '기술생태 커먼즈(공통장) 구성'을 일관되게 주장해 왔습니다. 특히 물리적 세계와 디지털 세계가 결합된 '피지털(Phygital)' 환경에 주목하여, AI 플랫폼이 어떻게 현실의 물질계를 통제하는 거대한 인프라 권력으로 작동하는지 그 메커니즘을 연구해왔습니다. 오늘 이 자리가 우리가 직면한 '비인간 권력'에 저항하고, 기술-생태적 대안을 함께 모색하는 뜻깊은 논의의 장이 되기를 진심으로 바랍니다.

무엇보다 닉 다이어-위데포드 교수의 〈사이버맑스〉를 내 젊은 시절 읽으며, 당시 자본주의 기술의 급진적 해석에 큰 도움을 받았던 기억이 납니다. 이 자리를 빌어 감사를 드립니다. 그리고, 특히 《비인간 권력》 3장에서 다룬 '인공 일반 지능(AGI)'에 대한 도래에 대한 수긍, 그에 따른 '인간 없는 자본주의'가 이론적으로 가능하다는 주장이 매우 인상 깊었습니다. 오늘 발표를 통해 관련 논의가 아틀레 미콜라 쇼센(Atle Mikkola Kjosen) 교수님의 글이라는 점이 명확해졌는데, 여러모로 저에게 큰 배움이 되었습니다. (솔직히 말하면, 저는 여전히 AGI 도래 가능성을 부정하고 있긴 합니다만....)

그리고, 제임스 스타인호프 교수님의 '합성 데이터'에 대한 관점도 흥미로웠습니다. AI의 새로운 데이터 학습을 위한 자원으로서 대상 세계의 시뮬레이션 데이터를 수집해 자동 라벨링하기 시작했다는 점, 그에 맞춰 등장하는 노동의 유형이 흥미롭습니다. 세 분 모두 최근 'AI 자본주의'의 국면적 특징을 새롭게 업데이트해 주셔서 진정 감사합니다.

더불어, 인공지능의 비판적 해독서가 그리 많지 않은 현실에서, 쉽지 않은 책을 매끄럽게 한국어로 번역해주신 안호성 선생님과 이를 출판한 갈무리에도 이 자리를 빌어 감사의 말씀을 드립니다.

제 토론은 세 분의 〈비인간 권력〉 한국어판 책에 기초해 이에 몇 가지 질문을 하기 위해 작성된 내용입니다. 토론의 원활함을 위해서는 오늘 세 분의 강연 내용을 아주 제한적으로만 논평하고, 그 대신 미리 준비해 저자들에게 공유했던 세 가지 질문에 한정해 의견을 드리겠습니다.

1. AI 독점의 특이성에 관하여: '스택(The Stack)'과 수직적 하부구조

제 첫 번째 질문은, 1장 인지 수단(menas of cognition)에서. 현 단계 자본주의를 'AI 자본주의'로 보고 그 생산의 일반적 조건들을 묘사하고 있는 것에 대한 아쉬움입니다. 'AI 자본' 독점의 새로운 속성을 설명하기 위해, 책에서는 AI 강대국들의 적극적인 AI 투자, AI 오픈소스 비즈니스 활용, 스마트시티나 사물 인터넷 등 일상에 편재하는 AI 등을 언급하고 있습니다. 책이 출간된 시점을 고려하면 충분히 이해가 됩니다. 하지만, AI 독점이 과거의 독점 형태와 어떻게 다른지, 과연 새로운 AI 독점의 특징은 무엇인지가 책 내용에서 분명하지는 않은 것 같습니다. 이를테면, 벤저민 브래튼(Benjamin Bratton)이 언급한 스택(the stack)의 비유처럼, 희귀금속 자원 등 채굴 독점, GPU 등 하드웨어 생태계 독점, 데이터센터 등 자연자원 독점 등 수직적 AI의 하부구조 독점이 과연 오늘날 AI 기업 독점의 주요 특징이자 핵심 메커니즘으로 작동하는 것인지 의견을 듣고 싶습니다. 즉, 저자들이 보기에 오늘날 새로운 형태의 AI 기업의 독점은 과거의 전통적인 독점과 어떤 다른 특이성을 보이는지 구별해서 설명해 주실 수 있으실지요? 달리 말해, 현 단계 AI 자본주의에서 작동하는 AI 자본의 특징. 특히 그 독점적 권력의 특징이 무엇인지, 과거와 무엇이 다르다고 보는지 저자분들의 생각을 듣고 싶습니다.

2. 자동화의 역설과 현재의 '산 노동(Living Labor)' 문제

둘째로는, 2장과 3장 일부에서 책 저자들이 논의했던 'AI와 일자리 논쟁'에 관한 내용입니다. 설사 근미래 자본주의 현실에서 인공 일반 지능(AGI)의 기술적 단계로의 도약을 이루더라도, 저자들은 그들 비인간 지능 기계가 인간처럼 자유로운 계약관계 속 프롤레타리아적 지위에 처하지 않는 이상 인간 산 노동과 같은 잉여가치 생산은 불가하리라는 진단 또한 대단히 흥미로운 가치 해석 방법을 택하고 있는 듯 합니다. 사실상 이 점이 가장 내게 인상적이었습니다.

제가 생각하는 큰 난제는 만약 우리가 예측하는 것보다 인공 일반 지능(AGI)의 도래나 완벽한 지능 기계의 등장이 저자들이 생각한 것보다 훨씬 더디게 진행된다면 어떨까요? 특히, 오늘 강연에서 쇼센 교수님이 '자본가의 자동화 혹은 인격화'는 이미 우리 곁에 온 미래라는 점에 동의합니다. 하지만, 인간 노동력을 AGI 수준으로 자동화하는 데, 적어도 50년, 100년, 혹은 지난 자본주의 500년의 역사 정도의 아주 더 긴 시간이 걸린다면 AGI 문제는 완전히 달라집니다. 완벽한 비인간 노동자가 등장하기 전까지, "자동화의 마지막 단계의 역설(Paradox of Automation)"이란 그 긴 이행기 동안 AI 시스템을 보조하며 '위태로운 산 노동'을 제공해야 하는 인간 노동자들의 고통은 상상 이상으로 클 것이기 때문입니다. 그래서, 쇼센 교수님이 얘기한 완벽한 AI 비인간 노동자의 도래에 대한 사변적 상상력도 중요하나, 지금은 인공 일반 지능의 도래 이전 인간 노동자들의 고통 혹은 노동 현장에서의 소외나 노동강도 등 AI로 인한 노동과정 변화에 대한 강조가 더 시급하고 중요하지 않을까 싶습니다

사실상, 이 질문에 대한 답은 오늘 닉 다이어-위데포드 교수의 강연 내용 중 "AI와 계급 구성"에서, 특히 사이몬 샤우프 Simon Schaupp 교수의 "사이버네틱 프롤레타리아 과정"에 대한 인용과 그에 대한 설명에서 어느 정도 언급이 된 것 같습니다. 혹시 저의 이 같은 생각에 덧붙여 저자분들 중 누가 논평이 가능하시면 부탁드리겠습니다.

*****************

물론 저자들의 책 2장에서는 그 노동 자동화 과정을 읽는 실재적인 접근으로, 감시, 불안정성(precarity), 양극화 등을 통해 비판적으로 분석하고 묘사하고 있습니다만, 좀 더 AI 노동의 질적 변화가 어떠한지에 대한, 즉 노동과정에서 산 노동에 미치는 영향에 대한 구체적인 분석, 예컨대, 새로운 노동 소외, 직무 노동 강도의 질적 변화, 비인간 협업에서의 심리적 스트레스 등에 대한 광범위한 조사 연구가 더욱 필요 하지 않을까 싶습니다.

3. 감속주의를 통한 '생명 커뮤니즘(Bio-communism)'에 대한 구체적 설명

제 마지막 질문은, 이 책 결론에서 저자들이 언급한 "코뮤니즘적 비인간주의의 대안 형태는 생태적이다"라는 언급에 대한 것입니다. 나 또한 기술과 생태 문제를 어떻게 상호 호혜적인 방식으로 같이 읽을 수 있는 대안적 방법이 있을까 고민을 깊이 하고 있습니다. 최근에 "디지털 탈성장" 대한 논의도 그렇고, 내 나름대로 개념화 하고 있는 "기술 생태정치학"이라는 개념어도 바로 이와 같은 AI 플랫폼 등 첨단 기술의 지구행성의 인류세적 한계 내 적용, 그리고 기술과 생태의 절합을 통한 체제 전환에 초점을 맞추고 있습니다. 그런 저의 맥락과 유사하게, 저자들은 "마르크스주의와 탈성장 운동 사이에 가능한 절합" 혹은 "감속주의 운동을 통해서 AI 자본에 맞선 생명 커뮤니즘(biocommunism)"을 제안하고 계십니다. (몇 년 전 사이토 코헤이도 인류세 국면 체제 전환의 기획으로 "탈성장 커먼즈"란 대안을 언급하기도 했습니다.)

인공지능과 마르크스주의, 그리고 생태주의적 전망이라는 이 세 축이 교차하는 지점에서 우리가 상상할 수 있는 대안의 구체적인 위상이 무엇인지 그리고 그런 유사 사례가 있다면 그 사례를 조금 더 들어 설명해 주실 수 있을까요? 조금 더 구체적이고 저자들의 개념어로 질문드리자면, 인간을 '쓸모없는 잔여물'로 만들고 자기 증식하는 '인휴먼(Inhuman)'한 AI 자본의 권력이 우리의 인지 수단을 장악하고 파괴적으로 가속화할 때, 우리는 오히려 AI 기술을 착취의 도구가 아닌 '논휴먼(Non-human)'적인 생태적 반려자로 되돌려 놓는 '감속주의 정치'를 실천해야 한다고 생각합니다. 이러한 맥락에서, 자본의 비인간적 가속을 멈추고 기술을 생태적 공존의 영역으로 재배치하려는 시도의 구체적인 전망이나 실제적인 사례가 있다면 저자분들의 생각을 듣고 싶습니다.

『비인간 권력』 출간 기념 저자 강연 및 토론 공동 세미나 영상

https://www.youtube.com/watch?v=zLZBASYiweo