디지털은 어떻게 권력이 되었는가?
“별점？평점？주목 사회의 민낯들”

2022년 10월 15일 경기도 판교 SK C&C 데이터센터에 화재가 발생해 카카오의 주요 서비스가 먹통이 되었다. 거의 전 국민이 사용하는 카카오톡과 카카오맵, 카카오T, 카카오페이, 다음 한메일을 사용하지 못해 대혼돈에 빠졌다. 시민들의 일상과 경계 활동에 큰 불편을 초래했고, 특히 카카오의 유·무료 서비스를 이용해 생계를 도모하던 상인들의 피해가 컸다. ‘카카오 먹통’ 사태는 카카오가 우리 사회 어디든 존재하는 범용의 플랫폼이 되었다는 것을 재확인하는 계기가 되었다. 우리가 얼마나 카카오의 각종 플랫폼 앱에 빠르게 길들었는지도 뼈저리게 느끼는 순간이 되었다. 무엇보다 카카오와 네이버 등 플랫폼이 시장 잠식은 물론이고, 우리 의식과 사회 전반에 미치는 잠재적 리스크를 체감하는 계기가 되었다.
플랫폼의 장점은 흩어져 있는 자원 공급자를 묶어 실수요자가 현명한 시장 선택을 하도록 이끄는 데 있다. 플랫폼은 효율적인 유무형 자원 중개에 대한 수수료로 막대한 수익을 취하고, 서비스 영역에서 신생의 불완전 노동시장을 만들어내며, 유연 근무와 고용 창출 효과를 내기도 한다. 그런데 문제는 플랫폼이 권력이 되는 순간이다. 인간의 시장 활동, 자원 정보의 실시간 파악과 수요·공급 매칭, 데이터 알고리즘 예측을 통해 그 능력을 극대화하려고 할 때 플랫폼은 자기모순에 빠진다. 또한 플랫폼은 소비자·노동자·시민 데이터의 수집과 감시 없이는 그것의 제 기능이 작동 불가한 ‘기생 자본주의’의 전형을 보인다.
『디지털 폭식 사회』는 우리 삶을 파고드는 기술만능주의와 그 기술 효과가 미치는 독성과 폭력을 비판한다. 또한 우리 사회의 경제성장과 삶의 편리를 위해 디지털 기술이 만능 해결사가 된 상황을 비판한다. 한국 사회는 디지털 기술 폭식의 특징들을 가장 극단의 스펙터클한 방식으로 보여준다. 빅테크의 첨단기술은 우리에게 청정의 해가 없는 디지털 신기술로 주목받고 무형의 산물로만 포장되어왔다. 디지털 플랫폼은 우리 현실 속에 디지털 ‘독성’의 그림자를 짙게 드리우고 있다. 별점이 영세업자의 생존을 좌우하고, 공유 택시의 배차 알고리즘이 기사의 노동 방식을 길들이고, 플랫폼 알고리즘이 사회의 편견을 확대 재생산하면서 혐오와 적대의 정치문화를 배양하고, 소비자 손끝의 평점과 댓글이 플랫폼 노동 수행성의 척도로 쓰인다. 우리는 디지털의 달콤한 유혹에 빠져 그것의 폭주와 폭식을 제대로 인식하지 못했다.
『디지털 폭식 사회』는 디지털 신기술을 성찰 없이 폭식하는 우리 사회의 과잉 경향을 특징적인 사례들을 통해 분석한다. 이 사례들을 통해 우리 사회에 디지털 기술의 폭식 과정에서 불거진 반(反)생태적인 모습을 밝히고, 공생과 호혜에 기반을 둔 기술 대안을 도모한다. 제1장은 우리 사회를 달구었던 몇 가지 기술문화 현상, 즉 메타버스와 아바타, NFT, 인공지능 챗봇 이루다, 클럽하우스에 대해 비판한다. 제2장은 인공지능 자동화, 알고리즘의 무자비성, 노동 인권을 다룬다. 제3장은 ‘카카오 먹통’ 사태와 우리 사회 기술 강박에서 출발한 ‘한국형 뉴딜’과 ‘스마트 시티’ 등 중장기 기술 정책에 대해 비판한다. 제4장은 코로나19로 드러난 자본주의의 민낯과 코로나19 난민을 다룬다. 제5장은 우리 사회의 디지털 기술 폭식과 정치 공론장 위기의 일그러진 단면을 드러내면서 시민들이 협력해 자율적으로 구성할 수 있는 기술민주주의의 지향점을 제시한다.

‘카카오 먹통 사태’가 깨우쳐주는 것

‘카카오 먹통 사태’는 디지털 플랫폼 공룡인 카카오의 문어발식 시장 확장 욕망에 비교해 턱없이 낮았던 한국형 플랫폼의 기술 설계에 대한 안전 의식의 부재로 인한 사고였다. 거의 전 국민의 데이터를 다루는 거대 디지털 플랫폼 기업이 안전 비용을 절감하기 위해 데이터 서버 관리 시스템을 안이하게 운영했다는 것도 드러났다. 골목상권까지 비집고 들어가 130여 개가 넘는 계열사로 덩치를 키워온, 인터넷 업계 매출 1위를 구가하는 기업의 위상에 걸맞지 않는 행태다. 플랫폼의 문제는 시장의 무차별 폭식과 자본 축적을 넘어 그것이 인간 의식과 일상에 파고들며 중독과 의존을 유발하는 데 있다. 카카오와 네이버 등 거대 플랫폼 기업이 지니는 약탈적 가격 정책, 수직적 통합, 시장 지배력 등 시장 독과점 문제를 점검하는 일이 시급하다. 이를 통해 우리 사회의 특정 플랫폼 의존 리스크를 분산하고 낮추는 효과를 거둘 수 있다.
윤석열 정부는 플랫폼 시장 개입을 과잉 규제라는 이유로 꺼렸다. 카카오와 네이버 등을 부가통신사업자로 분류하고, 재난 대비 관리 의무를 ‘이중 규제’라며 면제해주는 등 최근까지 데이터 시장 부양에만 골몰했다. 2022년 8월에는 공정거래위원회가 플랫폼의 우월적 지위를 남용하면 법적 제재를 취하는 ‘온라인 플랫폼 공정화법(온플법)’까지 폐기했다. 윤석열 대통령은 카카오를 ‘국가 기간 통신망’이나 ‘국가 기반 인프라’로 추켜세우는데, 이는 정부가 카카오 플랫폼에 대한 강력한 시장 반독점 규제 정책을 구사하기 어렵게 만든다. 오히려 플랫폼 공룡 기업 카카오를 국가가 나서서 키운 꼴이 되었다. 이제 시장 교란과 우월적 지위 남용 등 플랫폼 시장의 독과점을 판단할 새로운 잣대가 필요하다.

인공지능 챗봇 ‘이루다’ 논란과 클럽하우스 열풍

국내에서 논란이 되었던 인공지능 챗봇 ‘이루다’ 사태는 기술의 본모습에 대해 각성할 시간을 우리에게 주었다. ‘챗봇’은 이용자의 입력된 말에 특정 단어나 구문을 검출하고 분석해 이에 최적화된 응답을 출력하도록 제작된 프로그램이다. 그런데 문제는 이루다가 일상 대화 중 보여주었던 성희롱, 약자 차별, 장애와 인종 혐오 정서였다. 한 온라인 사이트의 남성 이용자들이 이루다에게 2차 성적 가해를 시도하며 일종의 ‘성노예’로 길들이면서 인권 침해 논란을 빚기도 했다. 이는 우리 사회에 잠재하는 혐오와 차별의 정서뿐만 아니라 개발자 문화의 성인지나 인권 감수성 수준을 극명하게 보여주었다. 이것을 막기 위해 인공지능 윤리 가이드라인과 법적 규제책을 마련해야 한다. 기업의 무분별한 시민 ‘데이터 활용론’이 대세처럼 굳어진 현실에서 인공지능 기술과 플랫폼 알고리즘 등 민감한 기술에 대한 시민들의 데이터 권리를 보호할 방안을 마련해야 한다.
클럽하우스는 ‘음성’만으로 이용자들이 낯선 이들과 새로운 관계를 맺고 대화를 나눌 수 있는 음성 기반형 소셜미디어 플랫폼 앱이다. 클럽하우스는 전성기에 전 세계 가입자 수 1,000만 명을 웃돌았고, 한창때 우리도 가입자가 100만 명에 이르러 클럽하우스 ‘열풍’이라고 할 만했다. 클럽하우스는 자율적 소통과 상호 예의를 갖춘 발언 문화의 기초 문법을 세우는 듯했고, 우리에게 생생한 ‘말’과 대화의 각축장을 선보이면서 새로운 민주적 소통 관계를 만들어낼 수도 있다는 얕은 희망을 주었다. 그러나 클럽하우스는 공통의 정치·사회적 의제 확산보다는 특정 취향과 세부 주제에 따라 대화방들로 나뉘어 밀도 있게 정주행하는 대화형 모델에 적합했다. 다시 말해 폐쇄적이고 위계적인 면모를 보여주었다. 클럽하우스가 추앙받다가 이제 우리의 기억에서 잊힌 이유를 비판적으로 탐색해야 한다. 어제 온라인 정치 혁명의 소셜미디어로 여겨졌던 것이 오늘 가짜뉴스의 온상이 되지 않았던가?

구글은 왜 ‘밴쿠버 스마트 시티 계획’을 철회했을까?

구글은 전 세계적으로 살기 좋기로 손꼽히는 캐나다 밴쿠버에서 진행했던 ‘스마트 시티 계획’을 2020년 5월 전면 백지화했다. 구글과 같은 빅테크의 글로벌 기술력과 거대 민간 투자를 통해 밴쿠버를 첨단 도시재생 사례로 만드는 일은 누가 보더라도 매력적인 구상이었다. 하지만 구글의 기술 인프라에 각종 감시 기술을 내장하거나, 개인 데이터의 사적 활용을 용인하거나, 제3자에게 데이터 양도를 쉽게 하도록 하거나, 해킹과 비인가 접속에 대한 관리 감독이나 제한이 취약한 문제 등이 드러났다. 이는 시민의 데이터를 관리하며 도시 권력을 확장하는 지능형 통제 도시를 축조하는 것처럼 보였다. 그런데 시민들의 거의 모든 활동을 기록하고 분석하는 디지털 통제 현실을 강제하는 것은 정보 인권적 측면에서 우려스럽다. 구글의 스마트 시티 계획은 ‘완벽하게 통제되는 유토피아 도시’ 구상과는 거리가 멀었다.
도시의 기술 과잉 욕망은 곳곳에서 볼 수 있다. 도시 경관을 조성한다는 명목으로 조명 장치, 미디어 파사드, 사이니지, 안내 키오스크, 레이저빔 프로젝터, 옥외 광고판 등 우리의 말초 감각을 자극하는 조형물과 인공물이 도시 곳곳에 설치되어 있다. 더구나 우리 사회의 신기술 숭배 의존도가 높아지면서 첨단기술의 인공물 설치가 더욱 급증하고 있다. 과연 이것이 우리가 추구하려는 도시의 모습일까? 이제 도시 경관 사업에 쓰이는 각종 기술 장치가 지역과 환경에 미치는 유해 효과를 살펴보고, 지역 문화와 정서와 상호 친화적일 수 있는지 숙고해야 한다. 다시 말해 도시 경관 조성에 강요되는 기술만능주의에 대한 비판적 제고가 필요하다. 도시설계의 공공성 역할이 남아 있다면, 기술과 생태 사이의 균형점을 찾아야 한다.

디지털 기술은 만능 해결사인가?

우리 사회의 기술 의존도가 갈수록 커지고 있다. 코로나19 팬데믹으로 언택트 경제가 흥행하고 비대면 일상이 익숙해지면서 기술 과열 조짐까지 보인다. 기술 폭식 사회는 그 어떤 때보다 사회가 기술에 매달리고, 기술을 사회문제의 직접적 해결책으로 보고, 그에 대한 이성적 판단이나 성찰의 여유가 적을 때 발생하는 현상이다. 기술이 경제성장과 함께 편리와 효율을 선사해왔던 것은 사실이지만, 기술이 만능처럼 군림하기 시작하면서 사회문제가 불거지고 있다. 이는 우리 사회의 혁신이나 기술민주주의와 무관해 보인다. 오히려 성장주의만을 위하거나 기술의 도구적 합리화 과정에 가까워 보이기 때문이다.
우리는 기술이 놓인 사회적 맥락이나 의미를 살피기보다는 기술의 시각적인 재현이나 장식 효과에 몰입하는 경향이 있다. 기술의 스펙터클한 재현이라는 대중심리적 홍보 효과를 얻는 데 목적을 두면서, 우리의 기술 폭식과 편식은 화려한 기술의 속내를 읽는 비판적 시선을 무디게 했다. 단적으로 닷컴기업과 빅테크의 사유화 논리가 지배적이고, 빅테크 기술이 우리 사회를 조직하고 구성하는 관계의 인프라가 될 정도다. 특히 디지털 기술과 같은 비물질 독성은 인간의 생체리듬과 심리는 물론이고 사회 저변에 박혀 있어 잘 드러나지 않는 내상까지 입힌다. 우리가 그토록 믿었던 기술의 민낯이 드러나고 있는 것이다.
데이터 민주주의의 구체적인 사례인 ‘시빅 해킹’은 시민들이 주체가 되어 공공 데이터를 사회 혁신의 방향으로 이끄는 공동체 자치와 공공 협치 활동을 강조한다. 한마디로 데이터 기술을 사회 혁신과 결합하려는 시민사회의 실천 의제로 볼 수 있으며, 디지털 기술을 매개한 시민 주도의 디지털 민주주의의 실험이라고 할 수 있다. 이제는 기술 폭식과 편식을 일방적으로 강요하는 구태의 프레임을 깰 필요가 있다. 그리고 기술 폭식의 이면을 성찰하고 자본주의 기술의 위상을 따져보면서 디지털 기술이 시민들의 심신에 미치는 독성을 제거할 방법을 찾아야 한다. 우리는 인간의 과신과 오만이 묻어 있는 기술 처방이나 사회문제의 해결책을 기술에서 찾는 발전주의적 세계관에서 벗어나야 한다.

프롤로그 : 별점, 평점, 주목 사회
피지털 효과 4 피지털, 플랫폼의 새로운 권력장 6 디지털 기술의 독성 9 디지털 기술 폭식 현상의 가속화 11 디지털 기술은 만능 해결사인가? 14

제1장 메타버스 플랫폼 질서의 탄생

현실을 무너뜨리는 메타버스와 아바타
사이버공간 독립선언문 25 사이버공간과 메타버스 27 메타버스 비즈니스의 탄생 29 메타버스의 자산 증식 욕망 32 게임과 오락을 넘어 34
크립토아트와 NFT 창작 노동의 비애
『훈민정음 해례본』이 NFT로 거래된다면 37 디지털 아우라 40 디지털 자유 문화의 위기 42 무기력한 데이터 창작 노동 44 인류의 창발력을 거세하다 46
인공지능에 혐오와 편향이 스며들었다
이루다의 오염된 말뭉치 48 이루다는 ‘어린아이’ 같은 지능체였는가? 51 이루다를 둘러싼 혐오 논쟁 54 인공지능 윤리 가이드라인과 법적 규제책 57 인공지능 기술의 오남용을 막기 위해 59
클럽하우스 열풍은 무엇을 남겼는가?
음성 기반형 소셜미디어 61 클럽하우스 사용법 63 인플루언서 경제 65 폐쇄적이고 위계적인 소셜미디어 68 클럽하우스의 모순과 한계 71

제2장 인공지능 자동화와 노동의 미래

노동의 소멸과 ‘하류 노동’의 무한 증식
질 나쁜 ‘위태로운’ 노동 75 플랫폼 공장의 탄생 77 플랫폼 기술 예속형 노동자들 79 노동자의 심신을 피폐화하는 하류 노동 82 플랫폼 노동의 미래 84
알고리즘의 무자비성과 노동 인권의 실종
플랫폼 앱에 매달린 노동자 87 판교 노동문화의 민낯 89 인공지능의 ‘알고리즘 경영’ 92 노동자를 위협하는 알고리즘 96
택배상자 손잡이 구멍과 약자의 기술정치학
비대면 자동화 사회 98 택배상자의 착한 손잡이 100 인공지능의 편향과 왜곡 102 ‘사람 중심’ 인공지능의 한계 104 약자와 타자를 위한 인공지능의 인권 원칙 107
모터에 실려올 미래와 정의로운 전환
‘레거시’ 내연기관 자동차 109 비정규직 무노조 하도급 노동 112 테슬라와 ‘위장 환경주의’ 114 전기차의 ‘정의로운 전환’을 위해 116

제3장 성장 강박과 지속가능한 기술 환경

플랫폼 공룡, 카카오의 그림자
일상이 멈추었다 121 플랫폼에 대한 정부의 모호한 태도 124 플랫폼 독점에 길들여지다 127 카카오 먹통 사태가 깨우쳐주는 것 128
성장 중독에 급조된 ‘한국형 뉴딜’의 유물
‘한국형 뉴딜’의 탄생 131 ‘그린 뉴딜’이라는 신기루 134 ‘디지털 뉴딜’의 딜레마들 138 ‘데이터 댐’의 부실 142 ‘디지털 플랫폼 정부’를 뜯어고쳐라 144
스마트 시티와 시민의 데이터 인권 침해
도시의 기술 욕망 147 중앙 통제형 도시 관리 시스템 149 구글의 밴쿠버 스마트 시티 계획 151 완벽하게 통제되는 ‘유토피아 도시’는 가능한가? 154
도시 경관과 생태주의적 균형 찾기
인공으로 덧칠한 ‘불빛정원’ 157 스펙터클한 도시 경관 159 기술 과잉의 도시 디자인 161 기술과 생태 사이에서 163

제4장 코로나19 팬데믹과 생태 위기

코로나19로 드러난 자본주의의 민낯들
자본주의적 생태 파괴와 균열의 대가 169 멈추니 드러나고 보이는 것들 172 ‘코로나19 난민’의 탄생 175 자본주의의 광란을 멈춰라 178
코로나19 난민과 사회적 백신
‘위드 코로나’라는 상시 방역 체계 181 방역 조급증과 사회안전망의 부재 183 비대면 기술의 진화 방식 186 인간의 ‘기술에 대한 욕망’ 189
포스트 코로나19 시대 공통 감각의 재구축
안전 사회, 방역 사회, 비대면 사회 192 기술 논리가 낳은 사회 병리 194 ‘공통 감각’에 대하여 196 ‘생태 감각’을 배양하는 법 198 ‘연대 감각’과 ‘기술 감각’ 200

제5장 기술 폭식 사회와 기술민주주의

기술을 향한 맹목적 욕망에 저항하라
기술 폭식 욕망에 압도된 사회 205 KT의 인터넷 통신망 마비 207 인공지능 식별 추적 시스템 209 표류하는 데이터 인권 211 ‘기술 리얼리즘’의 단초들 212
‘조회수 알고리즘’ 사회와 공론장의 위기
온라인 공론장의 퇴락 215 물리적 사회관계에서 소셜미디어 관계로 217 조회수와 주목 경제 219 정치적 부족주의 221 가짜뉴스와 알고리즘 정치 223
시민 자율과 자치에 기댄 기술민주주의
‘초기술 사회’를 향해 227 시민 주도 정책 사업의 성과 229 데이터 민주주의와 시빅 해킹 232 개인 리터러시와 기술 역량을 넘어 235
성장의 욕망에서 공생의 기술로
첨단기술에 녹아 있는 욕망 237 소셜미디어 플랫폼의 알고리즘 논리 239 IT 기술의 반환경 ‘독성’ 효과 241 ‘디지털 탄소 다이어트’ 캠페인 243 공생과 호혜의 생태주의적 기술 245

에필로그 : 성찰 없는 기술주의
숭배와 탐욕 247 신생 청정 기술의 독성 249 생태 기술과 공생 기술 251 생태 패러다임으로 전환하기 253

주 255
찾아보기 258