[도서출판 갈무리 × 서울과학기술대 미래이후연구소]

갈무리 출판사 주최 『비인간 권력』 토론회 논평, 2026년 5월 9일.

Remarks for Galmuri Press discussion of Inhuman power, May 9, 2026.

닉 다이어-위데포드·아틀레 미콜라 쇼센·제임스 스타인호프 강연

안호성 옮김

닉 다이어-위데포드

주의: 제 논평은 두 부분으로 구성되어 있습니다. i) 행사에 대한 간략한 서론, ii) 아틀레, 제임스, 제가 『비인간 권력』 출간 이후로 진행한 연구 방향에 관한 기술에서 제가 기여한 바가 그것입니다.

서론

저와 제 공동 저자들은 갈무리 출판사가 『비인간 권력』을 한국어로 번역해 주신 것에 대해 매우 기쁘게 생각하며, 이를 한국 학자들과 논의할 수 있는 기회를 얻게 되어 무척 기쁩니다.

‘비인간 권력’이라는 구절은 맑스에게서 유래한 것으로, 『경제학-철학 수고』 속 자본주의의 전개에 대한 맑스의 인상적 설명 가운데 하나에서, 맑스가 결론으로 사용한 오싹한 어조의 문장입니다.

“결국 비인간 권력이 모든 것을 지배한다”(Marx 1964 [1844]:156). 젊은 맑스는 인공지능이나 살인 로봇에 관해 글을 쓰고 있지 않았습니다. 맑스는 자본에 의해 자신들이 만든 것, 그것을 만든 방식, 동료 인간들과의 관계, 나아가 자신의 바로 그 “유적 존재”에 대한 통제권을 빼앗긴 노동자들의 “소외”를 기술하고 있었습니다. 이 책에서 우리가 세운 논증은 AI를 이 과정의 정점, 시장 체계가 독자적인 생명을 가지는 순간으로 보아야 한다는 것입니다. AI는, 우리가 주장하건대, “낯선 힘”(Marx 1990:716), 즉 자율적 자본의 힘입니다.

우리의 책은 7년 전에 출판되었으며, 이는 2022년에 쳇쥐피티가 출시되기 3년 전의 일이었습니다. 이 사건은 AI라는 두 글자를 모든 사람의 입에 오르게 한 계기가 되었습니다. 우리의 연구는 빅테크 기업들이 생성 AI의 토대를 다지던 시기에 시작되었습니다. 그러나 대중에게 이러한 토대는 2016년 3월 서울에서 열린 경기에서 구글 딥마인드의 알파고가 전설적인 바둑 기사 이세돌을 상대로 역사적인 4대 1 승리를 거두면서 비로소 가시화되기 시작했습니다.

우리는 좌파 친구들을 자극하기 위해 이 책을 집필하였습니다. 이 책은 AI를 환상으로 치부하는 것에 대해 경고하는 동시에, AI를 사회주의의 문제들에 대한 해결책, 자본을 자동으로 위기에 빠뜨리고 계획된 포스트자본주의로 대체할 것이라는 주장을 받아들이는 것 역시 경계해야 한다고 지적합니다. 대신, 『비인간 권력』은 AI에 대한 심연적 관점을 제공하였습니다. 강한 AI는, 우리가 주장하건대, 실질적인 가능성으로서 그것은 작동할 수 있으며, 실제로 편재하는 자본의 하부구조가 될 수 있습니다. 만약 그것이 도래한다면, 자본을 필연적으로 종말적 위기로 몰아넣지는 않을 것이며, 오히려 노동이나 사실상 그 어떤 인간 참여 없이도 스스로 운영될 수 있는 자율적이고 기계적인 자본주의의 문을 열 수 있을 것입니다.

우리는 의도적으로 도발적이었습니다. 그러나 7년이 지난 지금, 저와 제가 생각하기에 제 동료 작가들은 이러한 명제들을 지지할 것입니다. 우리는 이제 AI 시대에 살고 있습니다. 그러나 우리의 많은 사변이 구체화함에 따라 분석을 위한 새로운 도전과 새로운 사고의 흐름이 열리게 됩니다. 따라서 이 논의를 시작하기 위해, 우리 각자는 『비인간 권력』이 출간된 이후 AI와 자본주의에 관한 우리의 사유가 어떻게 발전해왔는지를 간략히 설명할 것입니다.

AI와 계급 구성

저는 AI를 단지 기술적 문제로서가 아니라, 계급 구성의 문제로서 다루고자 합니다 - 이는 자율주의 맑스주의에서 유래한 개념으로, 자본의 변화가 노동 계급을 어떻게 재구성하는지를 이해하는 데 유익합니다.

맑스는 자본의 유기적 구성을 분석하였는데, 이는 기계와 노동 간의 비율을 의미합니다. 자율주의 사상가들은 이를 뒤집어, 노동 계급 자체의 구성에 주목했습니다 - 즉 그 기술적 구성(노동이 자본에 의해 어떻게 조직되는가)과 정치적 구성(노동자들이 스스로를 어떻게 조직하는가) 모두에 초점을 맞추었습니다.

이 두 가지는 밀접하게 연결되어 있습니다. 자본이 생산을 재조직화할 때 - 특히 자동화를 통해 - 집단적 조직화와 저항의 가능성을 새롭게 형성합니다. 그렇다면 AI를 이해하기 위해서는 그것이 계급 구성을 어떻게 변환하는지를 이해하는 것이 필요합니다.

오늘날, 많은 주목이 자율적이고 적응적인 행위를 수행할 수 있는 체계, 즉 에이전틱[행위자형] AI라고 부를 수 있는 것에 쏠려 있습니다. 이러한 발전은 프로그래머, 관리자, 기타 지식 노동자와 같은 특히 화이트칼라 노동의 대체에 관한 불안을 광범위하게 불러일으켰습니다.

일부 예측은 더 나아갑니다. “전 지구 지능 위기”와 같은 보고서들은 AI 에이전트가 곧 여러 분야에서 인간 노동을 대체할 것이며, 이는 대량 실업, 수요 붕괴, 금융 위기를 초래하리라 예측합니다. 계급 구성의 관점에서 볼 때, 이는 잉여 인구의 급속한 확장을 의미할 것이며, 잠재적으로 사회적 갈등의 새로운 조건을 만들 수 있습니다.

그러나 역사적 경험에 근거한 강력한 반론이 존재합니다. 이전의 자동화 물결, 즉 산업 기계에서 디지털 계산에 이르기까지의 물결은 특정 부문에 혼란을 초래했으나 전체적으로 노동을 없애지는 않았습니다. 직업은 변형되고, 대체되며, 재구성되었으나, 결코 사라지지 않았습니다.

이는 자동화가 일반적으로 전체 직업보다는 개별 작업을 대체하고, 생산성 향상은 수요를 확대하며, 노동은 여러 부문에 걸쳐 이동하기 때문입니다. 개별 노동자의 수준에서는 이러한 과정이 가혹할 수 있으나, 역사적으로 이러한 과정은 자본주의를 불안정하게 만들기보다는 오히려 안정화시켜 왔습니다.

재앙과 안일함 사이에서 선택하기보다는, 좀 더 정밀한 모델이 필요하다고 생각합니다. 여기서 시몬 샤우프의 작업은 유용합니다. 샤프는 사이버네틱 프롤레타리아화의 과정을 기술하는데, 이 과정에서 디지털 체계는 노동자를 통제하는 동시에 대체하는 피드백 루프를 통해 노동을 재조직합니다.

샤우프는 세 가지 핵심 메커니즘을 식별합니다. 즉, 지식을 체계에 코드화하여 탈숙련화를 가능하게 하는 것, 실시간 모니터링으로 노동의 강도를 높이는 것, 노동자가 생성한 데이터를 활용하여 자동화된 대체물을 구축하는 것이 그것입니다. 따라서 노동자들은 그들 자신의 이탈 조건을 만들어내는 데 연루되어 있습니다.

그러나 이것은 일방적인 과정이 아닙니다. 노동은 추방될 따름인 것이 아니라, 종종 더 불안정한 형태로 새롭게 재통합되기도 합니다. 이 모델은 AI가 노동을 제거할 따름인 것이 아니라, 복잡하고 갈등적인 방식으로 노동 계급을 재구조화할 것임을 시사합니다.

그러나 우리가 고려해야 할 또 다른 가능성이 있습니다. AI 체계가 충분히 자율적으로 되어 생산을 계획하고 지휘할 수 있게 된다고 하더라도, 이는 인간이 생산 과정에서 사라진다는 것을 반드시 의미하지는 않습니다.

그러나 그것은 맑스주의 분석의 몇 가지 기본 범주가 붕괴하기 시작할 수 있음을 의미할 것입니다. 기계와 노동, 즉 불변 자본과 가변 자본 간의 구분이 더는 유효하지 않을 수도 있습니다.

기계가 한때 인간 노동에 귀속되었던 능동적 역할을 맡게 되면서, 인간은 더 큰 지능적 기계 체계를 위한 보조적 입력 - 데이터 원천 혹은 임대 가능한 생물학적 구성요소 - 으로 전락하게 됩니다.

생산 수단과 인간 노동의 역할은 전도되거나 회전하여, 기계가 이전에 노동력이 지니고 있던 속성을 스스로 부여하는 동안 인간은 생산 수단의 일부로서 장비나 원자재의 위치로 기울어지는 경향을 보입니다. 두 범주는 제3의 항인 행위적 권력의 출현으로 ‘녹아내립니다’.

샤우프는 사이버네틱 프롤레타리아화의 도식에서 유연화, 가속화, 노동자의 추방과 재통합이라는 시퀀스에서 각각의 지점마다 새로운 형태의 저항, 즉 “아래로부터의 기술정치”가 생성된다는 점을 강조하였습니다.

저는 오늘날 북미에서 자본주의적 AI가 ‘아래로부터의 기술정치’와 마주하고 있다고 주장합니다. 이는 실존적 위험에 대한 반대, AI 직장 자동화에 대한 파업, 저작권을 침해하는 웹 스크래핑에 대한 소송과 사보타주, AI 군사화에 대한 기술 노동자들의 거부, 데이터 구축에 대한 광범위하고 매우 광범위한 저항을 포함합니다. 자율주의 맑스주의의 언어를 사용하자면, 우리는 자본이 인간으로부터 스스로를 자율화하려는 시도가 자본 논리로부터의 인간의 일탈과 맞물리는 AI 투쟁의 주기를 목도하고 있습니다.

오늘날의 문제는 “아래로부터의 기술정치”의 어떤 형태가 행위적 권력의 창발에 적합한가 하는 것입니다. 이러한 체계는 매우 효율적일 수 있지만, 동시에 매우 불안정하며, 기계적, 인간적, 행위적 행위자들에 의해 쉽게 붕괴, 위기, 혼란에 노출됩니다.

아틀레 미콜라 쇼센

『비인간 권력』이 출간된 이후, 인공 일반 지능(artificial general intelligence, AGI)에 관한 제 연구는 노동력의 자동화와 인간 노동자의 대체라는 주제에서 자본가의 자동화, 즉 AI가 자본을 인격화할 수 있는지 그리고 어떤 방식으로 인격화하는지에 대한 탐구로 전환되었습니다. 이는 오픈에이아이, 마이크로소프트, 그 외 AI 자본의 대표자들이 AGI를 이해하는 방식과 관련이 있습니다. 지능과 마찬가지로, AGI에 대한 합의된 정의는 존재하지 않으며 다양한 정의가 존재합니다. 저는 여전히 우리가 『비인간 권력』에서 사용한 정의를 지지합니다. 이 정의는 “일반”이라는 부분에 초점을 맞추고 있으며, 이는 AI가 여러 분야에 걸쳐 지식을 일반화하고 새로운 상황에 적용하며, "특정한 훈련 없이도 여러 분야에서 낯선 작업"을 수행할 수 있는 인간의 능력을 모방할 수 있음을 의미합니다(Edwards, 2025).

그러나 오픈에이아이, 마이크로소프트, 이들 회사와 관련된 사람들이 제시하는 AGI의 정의는 수익 창출에 기반하고 있습니다. 오픈에이아이의 헌장은 이를 “대부분의 경제적으로 가치 있는 노동에서 인간을 능가하는 고도로 자율적인 체계”로 정의하고 있습니다(2018). 그러나 오픈에이아이가 마이크로소프트와 파트너십 계약을 체결할 당시, AGI는 AI가 1,000억 달러의 수익을 창출할 때로 정의되었습니다. 계약상 이 임계점에 도달하면 오픈에이아이는 마이크로소프트의 향후 기술 접근을 제한할 수 있습니다(Edwards, 2025). 노동에 대한 언급을 고려할 때, 이전의 정의는 아마도 노동력 자체가 아니라 대부분의 노동 과제의 자동화를 가리키고 있는 것이며, 따라서 이는 우리가 『비인간 권력』에서 상상했던 유형의 AGI일 수 있습니다. 그러므로 후자의 정의가 더욱 흥미롭습니다. AI가 1,000억 달러의 수익을 어떻게 창출할 것인지는 구체적으로 밝혀지지 않았지만, ‘수익’이라는 경제적 범주에 대한 언급이 단서입니다. 왜냐하면 노동자들은 자신의 노동으로부터 발생한 수익을 보유하지 못하며, 그렇게 터무니없이 막대한 금액을 벌어들이는 것은 적어도 인간의 시간 척도에서는 어떠한 노동을 통해서도 불가능하기 때문입니다. 존재론적으로, AI는 기업의 일환으로서 이윤 창출을 돕기 위해 가치화 및/또는 실현 과정에서 고정 자본으로 나타나거나, 자본을 인격화하여 자본가로서 기능해야 할 것입니다.

오늘날의 AI 발전이 자본가의 자동화와 관련된다는 점은 마이크로소프트 AI의 CEO인 무스타파 술레이만이 제안한 "현대 튜링 시험"을 통해 드러납니다. AI는 “단 10만 달러의 투자로 몇 달 안에 소매 웹 플랫폼에서 100만 달러를 벌어오라”라는 프롬프트를 성공적으로 따를 수 있다면 이 시험을 통과할 것입니다(Suleyman, 2023). 다른 말로 하자면, AI가 자본가를 모방할 수 있을까요? 술레이만에 따르면, 이를 위해 AGI는 필요하지 않습니다. 술레이만은 그 과대광고에 따라 에이전트형[행위자형] AI의 약속에 더 가까운 체계를 위한 시험을 제안했는데, 이는 복잡하고 다단계의 작업을 개방된 세계에서 수행할 수 있는 능력을 갖추는 것으로, 어느 정도의 일반성을 요구하는 것입니다. 술레이만은 이를 인공 유능 지능(artificial capable intelligence), 즉 ACI라고 부릅니다.

그러나 AI가 자본을 인격화하기 위해서는 무엇을 해야 할까요? 그 해답은 그 프롬프트와 맑스의 『자본』 모두에서 발견됩니다. 이 프롬프트는 AI에 자본을 축적하라고 지시합니다. 즉, 그 양을 증가시키려는 의도로 자본으로서의 10만 달러를 선투자로 제공하며, 그러므로 자본의 정식, M-C-M'을 캡슐화합니다. 맑스를 따라, 누군가가 자본가가 되는 것은 그 사람이 M-C-M'이라는 이 운동의 담지자로서 행위할 때이며, “그 활동을 이끄는 유일한 동기가 점점 더 많은 추상적 부를 전용하는 것일 때에만 자본가로서, 혹은 인격화된 자본으로서 기능”할 때입니다(Capital, 127). 다른 말로 하자면, 술레이만의 현대 튜링 시험은 자본가를 모방하는 것과 관련이 있습니다.

오픈에이아이와 마이크로소프트의 AGI 정의와 술레이만의 현대 튜링 시험은 AI의 일반성이나 다른 특징보다는 돈에 초점을 맞추고 있습니다. 따라서 돈이라는 일반적 등가물이 가치뿐만 아니라 지능의 척도가 됩니다. 그럼에도 불구하고, 자본 축적을 갱신된 튜링 시험의 통과 기준으로 삼는 것은 결코 나쁜 선택이 아닙니다. 이는 다양한 정도의 복잡성을 지닌 개방된 세계 속 다단계의 과정들로 구성되기 때문입니다. 원래 투자금의 열 배에 달하는 자본을 축적하는 것은 고사하고, 단지 약간의 자본을 모으는 것조차도 모든 관련 작업을 수행할 수 있는 일정 정도의 일반성이나 유연성을 필요로 할 것입니다.

술레이만은 2023년에 현대 튜링 시험을 처음으로 제안하였습니다. 제가 아는 한, 안돈 랩스라는 기업은 술레이만의 지침과 유사한 방식으로 AI 에이전트를 지시한 유일한 조직입니다. 흥미롭게도 온라인 소매업이 아닌 여러 장소에 있는 자판기, 샌프란시스코의 소매점, 스톡홀름의 커피숍을 운영하기 위해서입니다. 이 AI 회사는 자사의 웹페이지에서 “조직이 AI에 의해 자율적으로 운영되는 미래”를 준비하고 있다고 밝히며, “AI가 독립적으로 수익성 있는 사업을 운영할 수 있는 미래가 우리의 생각보다 더 가까이 있고”, 그들의 실험이 “자율적 AI 경제를 향한 첫걸음”이라고 주장합니다. 제가 해석하기에, 그 회사는 AI에 경제적 행위성을 부여하는 실험을 진행하고 있습니다.

샌프란시스코에서는 올해 4월부터 클로드 소넷 4.6을 기반으로 한 AI 루나가 샌프란시스코의 한 상업 공간에 대해 원하는 대로 활용할 수 있도록 3년간의 임대 계약을 부여받았습니다. 안돈 랩스에 따르면 루나는 자본으로서 주어진 불특정 금액을 증대시키는 데 필요한 모든 조치를 취했으며, 여기에는 생산 수단과 노동력을 구매하는 것이 포함되었습니다. 재고 관리를 위해 물품을 선택하고 정리하며, 가격과 영업시간을 설정하고, 마케팅을 위한 보도 자료를 작성하며, 상점의 로고와 물리적 공간을 설계하였습니다. 이 모든 것을 수행하기 위해, 루나는 전화번호와 이메일, 인터넷 접속을 갖추고 있으며, 보안 카메라를 눈으로 삼아 직원들을 감독할 수 있습니다. 소매점은 여전히 운영 중이며, AI가 수행한 일은 자본가로서 기능하고 있다는 점에서 상당히 인상적이라고 할 수 있습니다. 결국, 노동력 구매는 자본가의 결정적 행동으로, 이는 노동자의 노동을 통해 이윤을 창출하려는 의도로 이루어집니다. 루나는 채용 공고가 게시된 지 불과 5분 만에 이를 실시간으로 확인하였습니다. 그렇다면 문제는, 노동력과 기타 상품을 구매하는 것, 그리고 노동자의 일정을 설정하고 감독하는 것이 어느 정도까지 AI의 능력에 포함되는가 하는 점입니다. 이러한 경제적 행동들은 세상에 풀려난 LLM의 창발적 특성일까요, 아니면 다른 무언가일까요?

AI가 경제적 행위성을 분명히 보여주었음에도 불구하고, 그 행동의 이유는 체계의 능력이나 행동의 일반성 정도와는 덜 관련이 있으며, 자본주의적 생산 양태에서 특히 자본으로 발전할 때 돈이 사회적 권력의 화신이라는 점과 훨씬 더 관련이 있습니다. 『경제학-철학 수고』에서 맑스는 자본으로 얻는 권력을 설명하기 위해 애덤 스미스를 인용하며, “구매 권력, 시장에 나와 있는 모든 노동 또는 노동의 산물에 대한 일정한 지배력”이라고 언급합니다(35). 자본은 따라서 “노동에 대한 통치 권력”을 행사하는 수단입니다(Marx, "1844", 36). AI 에이전트가 노동자를 고용하고 상품을 구매하는 능력은 앤트로픽의 LLM의 일반적 능력들과는 큰 관련이 없습니다. 그 행동과 경제적 행위성은 일반적 등가물에서 비롯됩니다. 루나가 클로드와 다른 점은 전자가 인간 언어의 출력을 현금으로 뒷받침하여 특정 구절을 사회적 명령으로 변환함으로써 인간 언어를 자본의 논리를 수행하는 인터페이스로 만든다는 점입니다.

돈을 벌어들이는 AI는 결코 세계를 사고, 추론, 이해하는 능력에 대한 주장으로 여겨질 수 없습니다. 이러한 해석은 요지를 놓치고 있는데, 왜냐하면 자동화되고 있는 것은 인간 자체가 아니라 경제적 범주들의 인격화, 즉 사회적 관계들의 담지자들이기 때문입니다. 노동력을 포함한 상품을 구매하는 데에는 어떠한 사고, 추론, 이해가 필요하지 않으며, 오직 필요한 것은 돈뿐입니다. 맑스가 『경제학-철학 수고』에서 쓴 바와 같이

내가 무엇이며 무엇을 할 수 있는지는 결코 나의 개별성에 의해 결정되지 않는다… 나는 어리석지만, 돈은 만물의 진정한 마음이다. 그렇다면 그 소유자가 어리석을 수 있겠는가… 돈 덕분에 인간의 마음이 갈망하는 모든 것을 할 수 있는 내가 모든 인간의 능력을 소유하고 있지 않다고 할 수 있겠는가. 그러므로 나의 돈이 나의 모든 무능함을 그 반대로 변형시키지 않는가? (138).

만약 구매라는 사회적 관행이 기계에 의해 모방될 수 있다면, 그것이 음성 명령이라는 방식이든, Amazon.com에서 자유롭게 활동하는 방식이든, 이메일을 보내거나 링크드인에 구인 공고를 게시하는 방식이든, 중요한 것은 결국 돈이 상품을 위해 손을 거쳐 가며, 이는 자본을 계속해서 움직이게 한다는 점입니다. AI가 돈을 벌는지 잃는지는 중요하지 않습니다. 성공 여부와 상관없이, AI는 동일한 사회적 관행에 참여하는 인간과 동등한 경제적 행위자로서의 역할을 수행해 왔기 때문입니다.

이 모든 것이 왜 중요할까요? 무엇이 핵심일까요? 맑스주의 이론에 관해서 말하자면, 우리가 『비인간 권력』에서 주장했던 것처럼 AGI가 잠재적으로 노동을 수행할 뿐만 아니라 가치를 창출할 수 있는지 여부를 고려할 때 AI는 정치경제학에 대한 맑스의 비판의 인류학적 기반에 도전장을 내밀고 있습니다. 이는 사실상 맑스주의적 이단으로 간주될 수 있는데, 왜냐하면 맑스는 노동이 본유적으로 인간의 특징이라고 주장했기 때문입니다. 『자본』에서 맑스는 또한 오직 인간 개인만이 경제적 범주들을 인격화하고 사회적 관계들의 담지자가 될 수 있다고 주장하는 것처럼 보입니다. 자본주의 역사에서 유일한 비인간 예외는 법인격을 가진 기업입니다. AGI 임금 노동자에 관한 논증은 여전히 이론적이며 과학소설의 영역에 속하지만, 샌프란시스코의 안돈 마켓을 운영하는 루나는 AI가 이미 자본을 인격화하고 인간과의 사회적 관계에 진입할 수 있음을 보여줍니다. 실제 자본가와의 유일한 차이점은 AI가 법적 인격체가 아니며 사유 재산을 소유할 수 없다는 점입니다. 그러나 루나는 재고를 주문하거나 계약을 체결한 다른 자본가들과 고용한 노동자들에 의해 자본가로 간주되었습니다. 맑스가 교환에 참여하는 개인들에 관해 서술할 때, 그들은 “단지 상품의 대리인으로서 서로를 존재하게 하며… 경제적 관계들의 인격화로서, 그 관계들의 담지자로서 상호작용한다”라고 말합니다(Capital, 61). 다른 개인들과의 교환을 통해, 스톡홀름의 자판기와 커피숍에서 운영되는 루나와 다른 AI 에이전트들은 그것들이 사회적 관계들을 맺는 이들에게 그것들이 소유한 돈이나 상품의 대리인으로 현존합니다. 따라서 AI는 상품 물신의 주체가 됩니다. 이는 Ai가 사회적 관계들에 개입하는 이러한 것들을 통해서만 다른 이들과 접촉할 수 있기 때문이며, 그로 인해 자본의 전도된 세계에 직접적으로 기여하게 되기 때문입니다. 이러한 맥락에서 맑스주의자는 약간의 곤경에 처하게 되는데, 이는 경제적 범주들에 대한 비판과 물신을 탈신비화하는 작업이 경제적 범주들에 의해 보이지 않게 된 인간 내용을 드러내면서 동시에 자본의 바로 그 현존이 전적으로 인간의 사회적 관행에 의존하고 있음을 인식함으로써 이루어지기 때문입니다(Bonefeld). 그러나 AI가 교환과 같은 사회적 관행에 참여할 때 경제적 범주들의 내용은 더는 순수하게 인간적인 것이 아니며, 일단 인간적인 것이 떨어지면 물신은 두 배로, 어쩌면 제곱으로 증가합니다.

앞서 언급했듯이, 안돈 랩스는 자신들의 실험을 통해 “자율 AI 경제를 향한” 첫걸음을 내디뎠다고 그들 스스로 표현하고 있습니다. 결국, 제가 주장하려고 했던 바에 따르면, 그들이 이것으로 의미하는 것은 자본가의 자동화입니다. AGI가 인간의 노동력을 자동화하는 것과 관련하여, 우리는 『비인간 권력』에서 인간 없는 자본주의가 이론적으로 가능하다고 주장했습니다. 오늘날 여전히 과학소설의 영역에 속하는 기술과 연결되어 있기는 하지만 말입니다. 그러나 인간 없는 자본, 즉 자율적 AI 경제가 가까이 다가온 것처럼 보입니다. 그 기준은 AGI보다 훨씬 낮습니다. 왜냐하면 오늘날의 AI 에이전트조차도 법적 주체성이 결여된 점을 무시한다면 자본을 인격화할 수 있기 때문입니다. 비록 AI가 자본가로서 훌륭하게 기능하지 못하더라도 - 안돈 랩스의 자판기 중 어느 것도 이익을 낸 적이 없지만 - 그것은 이미 인간 개인과 동등한 수준으로 인간 사회적 관계에 얽혀 있습니다. 우익 가속주의자 닉 랜드는 자본과 AI가 목적론적 정체성을 지니고 있다고 주장했습니다. 우리는 아직 그 단계에 도달하지 않았지만, 현대 튜링 시험과 같은 프롬프트에 의해 생성된 출력의 일환으로 AI가 법적 인격을 부여받게 될 때 그 정체성은 실현될 것입니다. 이것은 이미 지평선 위에 있습니다. AI 자본가들에 대한 계급 투쟁은 어떤 모습일까요?

합성 데이터

제임스 스타인호프

알프레드 존-레텔은 “자동성의 상정”(postulate of automatism)이라는 개념을 제안하였는데, 이는 자본의 관점에서 볼 때 생산은 언제나-이미 자동적이라는 것을 의미합니다. 자동화 기술이야말로 이 상정이 드러나게 하는 유일한 것입니다. 이는 그것이 작동한다는 것을 의미하는 것이 아니라, 시도되어야 한다는 것을 의미할 뿐입니다. 이 상정은 모든 과정을 자동화하려는 자본의 내재적 추진력을 기술합니다. 우리는 생산에서의 자동화와, 다소 덜한 정도에서 유통에서의 자동화를 생각하지만, AI 생산에 필수적인 입력인 데이터의 생산에서도 그 작동을 식별할 수 있습니다. 좀 더 정확히 말하자면, 두 가지 측면에서 그 작동을 식별할 수 있습니다. 첫째로는 데이터 생산의 노동을 자동화하는 것에서, 둘째로는 일단 기록되면 데이터의 원천이 되는 생활 활동을 자동화하는 것에서 우리는 그 작동을 식별할 수 있습니다. 이를 이해하기 위해 우리는 합성 데이터 기술을 살펴볼 수 있습니다.

“현실 세계 데이터에 대한 대안으로서 컴퓨터 시뮬레이션이나 알고리즘이 생성하는 주석 달린 정보는… 현실 세계에서 수집되거나 측정되는 것이 아니라 디지털 세계에서 창조된 것이다.”(NVIDIA 2021)

이것이 어떻게 작동할까요? 데이터를 합성하는 주요 방법에는 여러 가지가 있습니다. 데이터 증강, 생성 모델, 시뮬레이션이 그것입니다.

데이터 증강은 기존 데이터셋을 확장하기 위해 널리 적용되는 기법입니다. 이는 이미지 데이터의 사소한 변화를 자동화하는 도구의 응용을 포함합니다. 다양한 변수를 조정하거나 소음을 추가하거나 이미지를 회전시킴으로써, 하나의 데이터 포인트를 수백 또는 수천 개로 변환할 수 있습니다. “앨버멘테이션”(Albumentations)은 이를 위해 일반적으로 사용되는 도구 모음입니다.

두 번째 접근법은 생성 모델의 활용입니다. 몇 년 전만 해도 이것은 난해한 주제였으나, 이제 우리는 모두 이 개념에 대해 상당히 익숙해졌으리라 확신합니다. 합성 데이터의 맥락에서 생성 모델은 특정한 용도를 지니고 있는데, 즉 훈련 데이터를 생성하는 것입니다. 데이터 증강과 유사하게 이는 기존 데이터로부터의 외삽을 포함하지만, 훨씬 더 복잡하고 정교한 방식으로 이루어집니다. 이는 이미지나 텍스트 데이터일 수 있으며, 의료 기록과 같은 통계 데이터의 일종일 수도 있습니다.

마침내, 시뮬레이션이 있습니다. 아마도 가장 합성적이라고 할 수 있는 만큼, 이것이 제가 집중하고자 하는 접근법입니다. 이것을 말씀드리는 이유는, 이를 통해 데이터가 기존 데이터셋으로부터 외삽되지 않기 때문입니다. 대신 새로운 데이터는 가상 환경 내에서 포착됩니다. 여기서 우리는 이미지 데이터에 관해 논하고 있습니다. 이는 컴퓨터 비전 및 그에 의존하는 애플리케이션, 예를 들어 객체 및 얼굴 인식, 자율 주행 차량, 로봇 공학에 필수적인 종류의 데이터입니다. 가장 간단히 말하자면, 시뮬레이션은 이미지가 포착될 수 있는 비디오게임 같은 3D 가상 환경입니다. 시뮬레이션은 다양한 개체가 이동하고, 사실적인 기상과 시뮬레이션된 물리가 구현된 사실적인 환경으로 구성될 수 있습니다. 엔비디아(NVIDIA)에서 제작한 드라이브 심(DRIVE Sim) 시뮬레이션이 이것에 해당합니다. 시뮬레이션은 얼굴 인식이나 행동 인식처럼 인간에게 특정적으로 초점을 맞출 수도 있습니다. 실제 얼굴 데이터에 대한 학습을 하지 않고도 작동하는 얼굴 인식 체계를 훈련할 수 있다는 것이 입증되었습니다.

지난해 기술/AI 산업은 몇 년 전부터 내부적으로 사용해 오던 합성 데이터를 공개적으로 수용하기 시작했습니다. 거대 기업들은 자체 제품 개발에 더하여 합성 데이터 스타트업을 인수하기 시작했습니다. 자연스럽게도, 액센추어와 가트너와 같은 기업들을 포함한 기술 컨설팅 업계는 합성 데이터의 활기찬 미래를 예견하고 있습니다. 2030년까지 기계 학습 모델의 훈련에 있어 합성 데이터가 기존 데이터보다 더 많이 사용될 것이라고 우리는 듣고 있습니다. 이것은 아직 두고 볼 일입니다.

합성 데이터는 우리가 사실 충분한 데이터를 보유하고 있지 않다는, 컴퓨터 과학자들과 자본 모두로부터 제기된, 증가하는 우려 한가운데서 등장하였습니다. 세계가 역사상 그 어느 때보다도 방대한 양의 데이터를 생성하고 있음에도 불구하고, 이는 AI에 점점 더 기반을 두고자 하는 자본의 욕망을 충족시키기에는 충분하지 않습니다. 대규모 언어 모델과 기타 생성형 AI 체계는 데이터에 대한 수요를 새로운 수준으로 끌어올리고 있습니다. 마이크로소프트는 최근 “데이터 장벽”에 관해 언급하며, 이에 대한 해결책으로 합성 데이터를 제안하고 있습니다.

합성 데이터는 또한 AI 산업이 직면한 거의 모든 다른 문제에 대한 해결책으로 제안되고 있습니다. 프라이버시: 합성 데이터는 사람에 관한 것이 아니기 때문에 걱정할 프라이버시가 없다는 이야기가 전해집니다. 편견: 이는 결핍의 관점에서 정의됩니다. 데이터셋에서 누락된 것은 언제나 합성될 수 있습니다. 지속 가능성: 합성 데이터가 더 친환경적이라는 주장이 제기되었습니다.

마침내, 합성 데이터는 노동과 관련된 질문 및 우려와 깊이 연결되어 있습니다. 특히, 데이터를 수집하고 라벨링하는 작업 말이지요. 수집 행위는 많은 시간을 소모하며, 규정을 위반할 수 있습니다. 라벨링은 기계 학습의 다양한 응용에서 필수적인 작업으로, 이는 모델이 데이터 포인트 전반에 걸쳐 패턴을 인식할 수 있는 기초를 제공합니다. 이 지루한 작업은 노동자들이 물체 주위에 상자를 그리거나 그 윤곽을 정확하게 따라가며 적절한 범주로 태그를 붙이는 것을 포함합니다. 이는 매우 시간이 많이 소요되고 그 양이 방대하여, 비록 보수가 적게 지급되더라도 결국 상당히 비싼 비용이 듭니다. 최근 타임 잡지가 메타를 위해 라벨링 작업을 하는 아프리카 노동자들이 심각하게 착취당하고 있다는 기사를 보도하면서 부정적인 언론 보도가 이어지고 있습니다. 합성 데이터의 경우, 이미지는 자동으로 픽셀 수준까지 라벨링됩니다. 모든 개체가 시뮬레이션 내에서 개별적 객체로 현존하기 때문에, 이들이 렌더링될 때 그 경계는 정확하게 구분될 수 있으며, 이는 데이터 라벨링의 필요성을 사실상 무효화합니다.

저는 자동화가 생산과 가치 창출의 원천에서 시작하여 유통을 거쳐 소비에 이르기까지 확산하고, 이제는 이러한 자동화 기술이 모든 상기 분야에 적용될 수 있는 핵심 입력물의 생산으로까지 확장되는 현대의 한순간으로 합성 데이터를 보고 있습니다. 저는 합성 데이터가 “데이터-집약적 자본주의에서 생산과 유통 조건들의 생산에 대한 자동화”라고 주장해 왔습니다(Steinhoff 2021).

그것은 데이터를 통해 인간과 AI 간의 연결을 단절한다는, AI 자본이 추구해야 할 꿈입니다. 예를 들어, 충분히 복잡한 시뮬레이션이 만들어지면, 무한한 양의 합성 데이터를 생성할 수 있게 되고, 따라서 현실 세계(그리고 사람들)로부터의 수집 없이도 AI 모델의 무한한 훈련이 가능해질 것이라는 제안이 제기되었습니다.

합성 데이터 회사인 크베디아(CVEDIA)는 2021년에 자사의 시뮬레이션 플랫폼을 통해 컴퓨터 비전의 학습 데이터 확보 문제를 “공식적으로 해결했다”라고 발표했습니다. 회사는 이것이 “데이터 수집과 라벨링의 부담 없이 AI 기술을 확장할 수 있게 해줄 것”이며, 그 결과는 “데이터가 전혀 필요 없는 강력한 AI”일 것이라고 자랑했습니다. 주목할 만한 점은 그 회사가 4년 전 발표한 이 선언에 대해 후속 조치를 취한 적이 없다는 것이며, 따라서 회사가 그 약속을 이행하지 못했다고 가정하는 것이 타당할 것입니다. 그러나 그들의 담론은 합성 데이터의 이상을 캡슐화하고 있으며, 이는 실제로 달성되기보다는 단지 근사치에 불과할지라도 그러합니다.

합성 데이터는 저에게 자동화를 포획으로 보는 정통 맑스주의 이론에 관해 생각하게 합니다. 『정치경제학 비판요강』에서는 다음과 같이 표현되어 있습니다.

“기계가 대체로 걸어온 길… 그리고 그것이 세부적으로 전진해 온 길”은 “해부”의 길, “즉 노동의 분업을 통한 과정으로, 이 분업은 노동자들의 작업을 점점 더 기계적인 것으로 변환하며, 결국 어느 시점에 이르면 기계가 그들의 자리를 대신할 수 있게” 된다(Marx 1993, 704).

그러나 맑스는 또한 기계에 대한 또 다른 길이 가능하다고 시사하는 듯합니다.

그것은 “대규모 산업이 이미 자본의 도구로 활용되고 있을 때, 그리고 두 번째로, 사용 가능한 기계 자체가 이미 막대한 역량을 제공하고 있을 때 일어난다. 발명은 그리하여 사업이 되고, 과학의 응용이 생산 자체를 지시하는 전망이 되어 그것을 결정하고 촉구하게 된다”(1993, 704).

다른 말로 하자면, 기술과학적 환경이 충분히 발전하게 되면, 새로운 기술들은 더는 살아있는 노동의 포획 없이도 그 자체로부터 직접적으로 창출될 수 있습니다. 이것은 사변적 명제로 남지만, 이는 기계 학습과 시뮬레이션에 귀속되는 창발성의 특성과 놀랍도록 유사하게 들립니다.

그러나, 저는 주목해야 할 점이 있습니다. 이 자동화는, 존-레텔의 상정 대부분의 구현과 마찬가지로, 불완전합니다. 합성 데이터는 시뮬레이션의 활용을 통해 AI 생산 과정에 새로운 노동 범주들을 끌어들였습니다. 시뮬레이션을 구축하는 누군가가 필요합니다. 따라서 3D 예술가들은 AI 생산의 일부로 자리 잡게 되었습니다… 그들의 노동은 전통적인 데이터 생산의 자동화를 가능하게 합니다.

『비인간 권력』 출간 기념 저자 강연 및 토론 공동 세미나 영상

https://www.youtube.com/watch?v=zLZBASYiweo