[TAPic 54호] 에이아이 지도책 2부 (2023. 9. 4.)

뉴스레터
작성자
진실연대자들
작성일
2023-11-28 19:49
조회
81


제 54 호
(통권 84호) 2023. 9. 4



열린 세미나


🚧 파리 반란 🚧



9월 시사토론 세미나 주제는 <파리 반란>입니다.
지난 6월 27일 프랑스 낭테르에서 알제리계 이민자 출신인 17살 청년이 경찰 총에 맞아 숨진 뒤 이에 항의하는 시위와 봉기가 프랑스 전역으로 빠르게 확산되었습니다. 이번 열린 세미나 시간에는 해당 사건을 중심으로 최근 유럽, 그중에서도 파리에서 일어난 반란에 대해 정리해 보는 시간을 가지고자 합니다.
열린 세미나에는 관심 있는 누구나 참여할 수 있습니다. 많은 분들의 참여를 기다립니다!

  •  일정: 9월 7일 목요일 저녁 7시 30분
  •  장소: 카카오톡 <열린 세미나> 오픈채팅방

     🔮 참가방법↗


  •  참고자료
1. [Vladimir Tikhonov (박노자)님의블로그] 신자유주의와 비서구의 부상↗
2. [김지윤의 지식Play] 빈민가 소년의 죽음이 프랑스 사회를 뒤집은 이유



👇 지난 세미나 갈무리 👇


『AI지도책』 2부

케이트 크로퍼드, 노승영 옮김, 소소의책, 2022

분류
감정
국가

8월 17일 (목) 저녁 7시 30분



소주제
1. AI와 분류
2. AI와 감정
3. AI와 국가
4. '권력'과 '우주'


1. AI와 분류


ㅈ) 케이트의 AI론은 우리가 흔히 접하는 AI론과는 결을 완전히 달리 하는데 그 다름이 나타나는 곳이 바로 4장 분류론이었던 것으로 보입니다. 어쩌면 이 책 전체를 요약한다고도 볼 수 있는 문장이 152쪽에 나오는 명제 "분류는 권력의 행위다"였다고 생각합니다.

ㅂ) 네, 이어서 이 장의 목적을 "인공지능이 어떻게 분류를 이용해 권력을 은밀히 행사하는지 살펴볼 것"(153쪽)이라고 말하고 있었습니다.

ㅈ) 그 권력이 국가권력과는 달리 사회 위로 솟구쳐 오르는 것이 아니라 "하부구조 속으로, 습관 속으로, 당연시 되는 것들 속으로" 숨어 들어간다는 것에 놀라운 점이 있다고 생각합니다.

ㅈㄱ) 178쪽 프레데릭 더글라스의 말을 인용한 부분이 눈에 띄었습니다. 어떤 권력과 신앙주의자들의 싸움이 그리 중요할까 의문이 든 부분이었습니다.

ㅈ) 권력은 요구 없이는 양보하지 않는다는 더글러스의 말은 항의행동이 왜 필요한가를 강조하는 중요한 생각인 것 같습니다.

ㅂ) "권력을 은밀히 행사"한다는 표현도 인공지능 권력의 특징, 즉 습관 속으로 숨어들어가는 특징을 강조하는 표현인 것 같아요.

ㅈ) 네 그 은밀성이 주의깊음을 요구하는 지점이라고 생각됩니다. 우리 자신이 무엇을 행하고 있는지를 우리가 모를 가능성이 높기 때문이지요. 인간과 동물을 나누고 남성과 여성을 나누고 흑인과 백인을 나누고 국민과 비국민을 나누는…당연시되는 저 분류의 습관들 속에서 권력이 행사되고 있다는 생각은 랑시에르의 "감각적인 것의 나눔"으로서의 치안이론(그리고 그것의 재분배로서의 정치론)이나 미시파시즘이론과 곳곳에서 연결되는 생각이기도 합니다.

ㅂ) 158쪽에 권력을 집중시키는 분류 행위를 "어떤 차이가 '차이'를 만드는지 결정하는 권력"이라는 표현이 있었는데요, 문장이 잘 이해되지 않아서 이 문장을 다른 분들은 어떻게 읽으셨는지 궁금합니다.
푸코의 '미시권력'도 생각났습니다. 푸코가 말하는 지식권력, 인공지능권력 모두 미시적으로 작동한다는 면에서 통한다는 생각도 들었어요.

ㅈ) 우리가 차이와 차별을 구별하면서 차이를 차별로 만드는 것이 권력이라고 하는데 앞의 작은 따옴표 속의 '차이'를 차별로 읽으면 뜻이 통하지 않나요?
차이는 무한한데 다른 차이를 추상하고 특정한 차이를 선택하여 차이점으로 규정하여 그것을 기준으로 분류할 때 이미 권력이 작동하기 시작한다는 의미에서입니다. 158쪽에서 그 행위를 하는 것이 "설계자들"이라고 말합니다.

ㅂ) 말씀하신대로 '차이'를 차별로 읽으니 잘 이해가 됩니다. 관련해 케이트가 '차이'를 외부자, 타자성 등으로 연결시켜 풀어가는 대목도 있었던 게 기억이 나고요.

ㅈ) 그런 방식으로 차이화=차별화함으로써 분류행위는 결국 이 세계를 만드는 역할(world-building, 162쪽)을 하게 된다는 것이 중요한 비판적 메시지라고 생각합니다.
그러한 세계건설은 복잡한 관계를 양화하는 하향식 원리를 따른다는 주장(172쪽)은 지금 우리의 국가, 기업, 학교, 교회, 군대 등 여러 동형적 사회조직들의 구성원리를 이해하는 데 도움을 주는 설명이라고 생각됩니다.

ㅈㄱ) 차이를 유한하게 하여 구별할 수 있다고 하는 것은 우선적인 한계를 인정하거나 수용한다는 말과 같지 않나 싶습니다. 이런 권력은 선차의 구별을 통해 어떤 효용성을 목표로 해야 그 한계에 대한 발전을 이룰 수 있다는 것 같고요.

ㅂ) 이미지넷의 기이한 범주들에 관한 이야기도 재밌었어요. 이미지넷의 최상위 범주 9가지는 "식물, 지층, 자연물, 운동, 인공물, 균류, 사람, 동물, 기타"라고 하는데요, 이러한 범주가 생긴 원인 혹은 기준 같은 것이 궁금했는데 책에서 직접 이야기해 주지는 않더라고요, 뭘까요?

ㅈ) 케이트는 175쪽에서 "기계학습 시스템은 관계에 따라 달라지는 것들을 고정된 범주로 분류하려 들며 그렇기에 과학적 윤리적 측면에서 문제가 있다는 정당한 비판이 제기된다"고 쓰는데 객체지향철학이 여기서 비판되고 있는 사고법대로 사고하는 것은 아니지만 맥락적 상관성이 있는 이런 문장을 어떻게 분석적으로 독해하고 어떻게 반응할지 궁금하기도 했습니다.

ㅂ) 164쪽에 나오는 내용입니다. 이 아홉 가지의 최상위 범주는 워드넷에서 가져온 것이라고 하네요.

ㅈ) 연어(連語)관계에 따라 도출된 범주들인 것으로 보이는데 그러한 범주에 이르게 된 메커니즘은 모르겠습니다. 워드넷↗

ㅂ) 객체지향철학 특히 하먼은 모든 걸 '관계'로 이야기하는 것(환원하는 것)을 굉장히 경계하지만, 하먼(Harman)도 인공지능의 무지막지하게 환원주의적인 하향식 원리의 범주는 반대할 것 같긴 한데요, 객체지향철학 입장에서의 기계학습시스템에 대한 정당한 비판은 어떻게 나올 지 궁금해지네요.

ㅈㄱ) 어떤 극한 상황에 대해 개별 입장이 다를 수 있겠지만, 당장의 불만들이 어떤 시스템 바깥에서 잘 응집되지 않도록 하는 것이 신앙주의자에게는 한편의 목표 같은 것일 수도 있겠다는 생각을 해봅니다.

ㅈ) 179쪽에서 케이트는 AI 분류에 대항하는 "집단적인 정치적 대응"이 필요하다고 말합니다. 그러한 집단적 정치적 대응의 방식들이 무엇일지에 대한 연구들이 있다면 추후에 살펴보면 좋겠습니다.


2. AI와 감정


ㅈ) 감정에 관한 장인 5장은 분류하기 가장 어려운 것인 감정을 분류할 수 있다는 주장에 따르는 AI 발전 방향이 갖고 있는 폭력성과 위험성을 고발하는 장입니다.

ㄱ) 인상 깊게 읽은 구절입니다.
"우리는 표정을 기계가 읽을 수 있는 범주로 묶는 시스템을 더 많이 만들려고 노력할 게 아니라 그 범주들 자체의 기원과 그 사회적, 정치적 결과에 의문을 제기해야 한다."
"감정인식을 자동화하려는 욕구에 저항하지 않는다면 우리는 입사 지원자가 자신의 미세 표정이 다른 직원들과 일치하지 않는다는 이유로 부당한 평가를 받고, 학생들이 자신의 얼굴이 의욕 결핍을 나타낸다는 이유로 동급생보다 낮은 점수를 받고, 고객들이 AI 시스템에 의해 얼굴 단서를 바탕으로 잠재적 좀도둑으로 판정되어 제지당할 위험을 감수해야 한다."

ㅂ) 관련이 있을지 모르겠지만, 4장의 내용 중 "카테고리아"의 어원 분석도 흥미로웠습니다. 고대 그리스어 "카테고리아는 타카(대항하다)와 아고레우오(민회에서 연설하다)라는 두개의 어근"(160쪽)으로 이루어진다고 하는데요, 하향식 논리의 범주화에 대한 비판과는 별개로 카테고리라는 말에 "대항하다"라는 의미가 들어가 있다는 점이 흥미롭게 느껴졌어요.

ㅈㄱ) 뉘앙스의 해석기술이 발전하도록 누가 노력할지 의문이 드는 장입니다. 뉘앙스란 아직은 뭔가 좀 귀족적인 것 같아요.

ㅈ) 204쪽에서 케이트는 마가렛 미드의 에크만식 “감정보편성론” 비판을 인용합니다. 그것은 “인간 존재가 핵심적인 선천적 행동을 공유할 가능성과 감정표현이 그와 동시에 문화적 요인에 의해 고도로 조건화된다는 생각 사이에는 내재적 모순이 없다”는 말로 요약되는데 이 비판에 대한 케이트의 태도/입장이 무엇이었던가요? 그것과는 약간 달랐던 것 같은데 기억이 나질 않네요.
미드의 입장에 대해 케이트는 "중간자적 입장"(204쪽) "더 미묘한 접근법"(209쪽) 등으로 성격규정을 하는데, 감정표현이 문화적 요인에 의해 고도로 조건화된다는 생각은 받아들이지만 "인간 존재가 핵심적인 선천적 행동을 공유할 가능성"이라는 생각에 대해서는 유보적이거나 거부하는 것으로 보입니다. 그것을 감정보편성론에 일정하게 양보를 할 수 있는 생각으로 보면서 "감정과 표현의 무한한 우주"(213쪽)를 지지하는 것으로 나가는 것이 아닌가 생각됩니다.

ㅂ) 네, 케이트가 강조하는 것은 “감정 범주가 생성적이고 관계적인 것"(210쪽)이라는 것인데요, 미드의 입장은 감정을 지나친 이분법에 욱여넣는 에크먼 보다는 낳지만, 그래도 감정을 주어진 것으로 가정한다는 면에서 ('선천적 행동'이라는 표현에서 엿보이는) 한계를 지적하는 것 같습니다.


3. AI와 국가


ㅈ) AI가 국가와 결합될 때 국가가 나아가는 방향이 "우리는 검찰과 경찰이 "알고리즘이 시키는 대로 했기 때문에 제가 무슨 일을 하고 있었는지 몰랐습니다"라고 말하게 되는 방향이라는 대목이 233쪽에 나옵니다. 예루살렘의 아이히만을 상기시키는 구절이었습니다.

ㄱ) "인터넷이 탄생한 사연의 중심은 미국 군부, 학계의 혁신과 지배였다. 하지만 AI 공간에서 우리는 순수한 국가 체제라는 것이 결코 존재하지 않음을 본다. 오히려 AI 시스템은 다국적이고 다면적인 도구, 인프라, 노동의 복잡하게 얽힌 네트워크 안에서 작동한다."

ㅈ) AI의 지시에 따라 모든 검찰 경찰들이 평범하게 행하는 일(기록, 키보드조작, 질문, 보고서 작성…)이 악마적인 결과를 가져오는 국가에 대한 예상이랄까요.

ㅈ) 마약성 진통제 옥시콘틴을 다룬 시리즈 "페인킬러"에서 한 여성은 처음에는 아픈 환자에게 고통을 진정시키는 좋은 약품을 팔아서 그를 돕는다고 생각하면서 의사에게 옥시콘틴을 알리고 환자에게 사용하도록 설득하는 외판 업무를 맡습니다.
엄청난 보너스에 취한 후에는 그 약이 환자를 중독시킨다는 사실을 알면서도 누구나처럼 열심히 외판을 합니다. 시리즈 끝에 미국에는 마약성 진통제로 하루에 사망하는 사람이 40명이라는 문구가 지나갑니다.
옥시콘틴 제조사인 퍼듀사의 보너스 파티가 누구나가 살인행위에 동참하게 되는 메커니즘을 만들어내게 되는데, AI 국가가 바로 누구나가 살인을 포함한 악마적 행위에 동참하는 사회를 만들어낼 수 있다는 것이 케이트의 전망, 아니 진단입니다.

ㅈ) 팔란티트 시스템 하에서는 이민자, 미등록자, 빈곤층, 유색인 등 차별당하는 집단이 집중적인 감시대상으로 부상합니다.

ㄱ) 책임성 메커니즘이 없다는 것도 문제로 지적되고 있습니다.

ㄱ) “상업적 알고리즘 시스템이 유의미한 책임성 메커니즘 없이 정부의 의사 결정 과정에 관여한다.”

ㅂ) "법원의 통제하에 있던 감시 능력은 이제 애플 앱 스토어에서 제공되며 현지 순찰 경관들이 홍보를 맡는다. 미디어학자 후텅후이의 말마따나 이런 앱을 이용함으로써 우리는 '국가 보안 기구를 위해 일하는 프리랜서가 된'다" (239쪽)는 대목도 인상적이었는데요, 앞에서 논의되었던 "우리 자신이 무엇을 행하고 있는지를 우리가 모를 가능성"이 높아지는 것과 관련이 있는 대목 같습니다.

ㅈ) 페인킬러에서는 책임회피 기제가 작동합니다. 옥시콘틴이 살인진통제라는 비판과 시위가 일어났을 때 퍼듀사의 책임자들은 전략회의를 통해 "공급이 아니라 수요를 문제 삼도록 유도하라", "공급이 아니라 오남용을 타격하라", "하층민 중독자를 공격하라" 등의 방침을 이끌어내고 언론과 경찰을 이 방향으로 유도하는데 이것은 책임전가의 메커니즘을 돈을 통해 만들어내는 것이라고 볼 수 있을 것입니다.
AI는 이 책임전가를 훨씬 용이하게 하는 기계로 기능하겠지요.

ㅂ) 지난 시간에 나왔던 '비용의 외부화' 즉, 비용 전가도 책임전가를 통해 더 용이해질 것 같습니다.

ㅈ) 243쪽에 "AI 시스템이 복지국가의 일부로 운용되면 지원 확대 수단으로보다 공적 자원에 대한 접근을 감시하고 평가하고 제한하는 수단으로 주로 이용된다"는 구절이 나오는데 윤석열 정부가 지금 복지를 타격하면서 AI를 사용하고 있지 않을까 하는 의심이 들었습니다.

ㅂ) 네, 윤 대통령이 '디지털 플랫폼 정부'이야기를 취임 초에도 강조했었는데요, AI가 어떻게든 활용되고 있지 않을까 싶습니다.


4. '권력'과 '우주'


ㅈ) AI 유토피아주의적 담론과 디스토피아적 담론 모두가 기술결정론적 몰역사적 관점에 빠져 있다는 비판이 흥미로웠습니다. 253쪽인데요. 두 담론 모두가 고삐 풀린 신자유주의, 긴축정치, 인종불평등, 만연한 노동착취의 구조적 힘을 외면한다고 비판합니다.

ㄱ) "무엇이 관건인지를 이해하려면 윤리보다는 권력에 더 초점을 맞춰야 한다." 이 문장의 의미가 무엇일까요?

ㅂ) AI 문제는 정치적인 문제라는 것을 강조하는 문장이라는 생각이 듭니다.

ㅈ) 기후온난화-기후위기를 비판함에 있어서도 에너지결정론적 시각의 경우는 정치경제학적 문제를 도외시하는 경향이 엿보이는데요. AI에 대한 비판적 접근이 "윤리적 규제"로 치우치는 것에 대한 경고일 것입니다.

ㄱ) "비판의 다음 시대에는 불가피성의 도그마를 전복하여 기술적 삶을 넘어선 공간을 찾아야 할 것이다. … 방향을 뒤집어 더 공정하고 지속 가능한 세상이라는 목표에서 출발한다면 어떨까? … 단순히 가능하다는 이유로 AI가 어디에 적용될 것인지 묻는 게 아니라 '왜' 적용되어야 하는지에 방점을 찍어야 한다."

ㄱ) 마지막에 저자는 "기술적 해결책의 매혹을 떨쳐버린 대안적 연대"를 말하고 있습니다. 그런 연대를 통해서 국가가 아닌 다른 것을 상상하고 함께 만들어야 한다고 보는 것일까요?

ㅈ) 윤리적 규제는 주로 국가기관을 규제주체로 설정하는데 케이트의 시각에서는 AI를 무기로 삼는 국가 그 자체가 문제입니다.

ㅈ) 그런데 이 책의 마지막 절이 "정의를 위한 연대를 향하여"인데 마이클 샌델로 인해 유명해진 "정의"라는 말이 나에게는 아직 확 와닿지 않습니다.
기후정의 데이터정의 외에 노동정의라는 말도 268쪽에 등장하는데 어원상 justice는 사법으로 길을 열지 다중의 행동으로 길을 여는 데에는 역부족인 것 같기 때문입니다.

ㅂ) '정의'라는 말은 종종 등장하는 '공정'이란 표현과도 통할 것 같은데요. (영어 표현은 무엇일지 잘 모르겠지만요) '공정'도 해석에 따라 다양하게 의미를 세길 수 있는 말이겠지만, '법 앞의 평등'으로 귀결되기 쉬운 표현인 것 같기는 합니다.

ㄱ) 저도 공감합니다.

ㅈ) 확실히 케이트의 책은 "(지금 필요한 것은) 기술에 대한 기술적 삶의 경험에 대한 새로운 비판"이라는 측면에서 매우 강력합니다. 그런데 비판을 넘어서 "기술적 삶을 넘어선 공간을 찾"는 측면에서는 좀 더 살펴야 할 이슈들이 두루 남아 있는 것으로 보입니다. (267쪽)

ㅂ) 관련해 케이트의 AI론에 대한 의견도 있으시면, 오늘 마무리 발언 삼아 올려주시면 감사하겠습니다.

ㅈㄱ) 네, 작가는 현재 같은 님비의 축소판만을 보고 싶어 하는 것 같습니다.

ㅈ) AI를 흔히 우리가 주목하는 그 말단에 국한해서 보지 않고 희토류에서 알고리즘에 이르는 발생적 총체로서, 아프리카에서 미국에 이르는 전지구적 총체로서 비판적으로 고찰한 점은 획기적이라고 생각합니다.

ㅈ) 우주 보론에서 케이트는 우주 사유화를 위한 몸부림을 서술하는데 그 신세계 욕망의 이면에 죽음에 대한 두려움이 도사리고 있다는 지적을 합니다. 두려움을 넘어설 희망의 관점이 필요함을 환기하는 대목으로 읽혔습니다.(277쪽)

ㅂ) <AI지도책>에서 논하는 AI는 현재 권력이 세계를 입맛에 맞게 재편하는 데에 활용하는 도구로서, 권력의 관점에서 작동하는 AI의 민낯을 들여다볼 수 있어서 흥미롭고 유익했던 것 같습니다. 그런데 AI의 다른 측면도 있지 않을까 하는 생각이 들었는데요, 케이트의 충고 "기술적 해결책의 매혹을 떨쳐버린 대안적 연대"를 공감하고 받아들이면서도 기술에 대한 다른 가능성을 품으려면 어떤 태도를 취해야 할지 고민해 보게 되었습니다.



📌
TAPic을 더 많은 사람이 볼 수 있도록
SNS에 공유해 주세요!
공유하기↗   트윗하기↗



🙋‍♀️ 뉴스레터를 읽다가 오타나 오류가 있는 내용을 발견하면 진실연대자들 메일 truth.commoners@gmail.com로 제보해 주세요. 다음 호 뉴스레터에 '정정 알림' 하도록 하겠습니다. 🙆



재밌게 읽으셨나요?


내용이 유익하셨다면 TAPic을 구독하세요.
한 달에 두 번, 나의 메일함으로 받아보실 수 있습니다. 💌


*매월 2,4주 일요일에 발송됩니다. (상황에 따라 조정될 수 있습니다.)


구독 신청↗


진실연대자들(TAP)
truth.common@gmail.com

전체 70
번호 제목 작성자 작성일 추천 조회
공지사항
진실연대자들의 뉴스레터 『TAPic』 모음
bomi | 2021.03.29 | 추천 4 | 조회 798
bomi 2021.03.29 4 798
공지사항
뉴스레터 TAPic 소개
bomi | 2021.03.07 | 추천 3 | 조회 463
bomi 2021.03.07 3 463
68
New [TAPic 65호] 예술과 공통장 1부 / 4.10 총선 국면에서 권력장의 재편 경향과 그 의미에 대하여 2부 (2024. 4. 16.)
진실연대자들 | 2024.04.17 | 추천 0 | 조회 7
진실연대자들 2024.04.17 0 7
67
[TAPic 64호] 4.10 총선 국면에서 권력장의 재편 경향과 그 의미에 대하여 (2024. 3. 25.)
진실연대자들 | 2024.03.27 | 추천 0 | 조회 70
진실연대자들 2024.03.27 0 70
66
[TAPic 63호] 우크라이나, 팔레스타인, 그리고 한반도 (2024. 3. 3.)
진실연대자들 | 2024.03.14 | 추천 0 | 조회 50
진실연대자들 2024.03.14 0 50
65
[TAPic 62호] #가속하라 4부 (2024. 1. 28.)
진실연대자들 | 2024.03.13 | 추천 0 | 조회 169
진실연대자들 2024.03.13 0 169
64
[TAPic 61호] 네그리의 죽음 (2024. 1. 3.)
진실연대자들 | 2024.03.12 | 추천 0 | 조회 47
진실연대자들 2024.03.12 0 47
63
[TAPic 60호] #가속하라 1, 2, 3부 (2023. 12. 4.)
진실연대자들 | 2023.12.06 | 추천 0 | 조회 157
진실연대자들 2023.12.06 0 157
62
[TAPic 59호] 하마스-이스라엘 전쟁 (2023. 11. 12.)
진실연대자들 | 2023.11.29 | 추천 0 | 조회 165
진실연대자들 2023.11.29 0 165
61
[TAPic 58호] #가속하라 1부 (2023. 10. 30.)
진실연대자들 | 2023.11.29 | 추천 0 | 조회 104
진실연대자들 2023.11.29 0 104
60
[TAPic 57호] 윤석열 정권의 역사전쟁은 어디로? (2023. 10. 19.)
진실연대자들 | 2023.11.29 | 추천 0 | 조회 171
진실연대자들 2023.11.29 0 171
59
[TAPic 56호] 캐런 바라드 (2023. 10. 2.)
진실연대자들 | 2023.11.29 | 추천 0 | 조회 122
진실연대자들 2023.11.29 0 122