AI를 둘러싼 과장된 서사를 넘어서

이 책은 먼저 AI의 발전과 미래를 말하는 영향력 있는 서사들을 소개하는 것으로 시작한다. 가장 대표적인 것으로는 종국에는 우리가 기계를 지배하는 것이 아니라 기계가 우리를 지배하게 될 것이라는 초지능에 대한 이야기다. 이것은 폭발적인 기술 발전으로 인해 세상에 도대체 무슨 일이 일어나는지 더는 이해할 수 없을 정도가 됨으로써 인간사가 종말을 고하고 말 것이라는 기술적 특이점이라는 생각과 밀접한 관계가 있다. 따라서 오늘날 우리가 직면한 과제는 AI를 어떻게든 우리가 원하는 대로 통제할 수 있어야 한다는 것이고, 그러기 위해서는 첨단 기술을 이용해 인간 스스로 자신을 ‘신’으로 업그레이드해야 한다고 한편에서는 주장한다. 저자는 이와 같은 인간과 기계의 경쟁 서사 혹은 ‘프랑켄슈타인 콤플렉스’를 넘어서기 위한 해법을 서구 문화 바깥에서 찾는다. 거기에는 종말에 관한 사상도 없고, 인간은 근본적으로 기계보다 우월하며 물질성을 초월하려는 존재임을 끊임없이 옹호하는 플라톤적 욕망도 없으며, 기계에 대해 보다 우호적인 태도를 발견할 수 있기 때문이다.

이어서 저자는 AI를 둘러싼 과장된 이야기를 넘어서고 AI에 대한 윤리적 논의를 단순히 미래에 대한 꿈 혹은 악몽으로 제한하지 않기 위해 기계에서 인간 같은 지능이 가능한지, 인간과 기계의 차이점은 무엇인지, AI는 단지 기계일 뿐인지 아니면 어떤 형태의 도덕적 고려를 받을 자격이 있는지 등을 하나하나 검토한다.

그런 뒤 저자는 AI에 관한 철학적 논의나 역사적 맥락화를 뒤로하고 AI 기술이 오늘날 우리 삶에서 실제로 어떻게 작동하고 있는지를 설명하기 위해 AI의 역사와 함께 기호적 AI나 신경망 인공지능 같은 기술을 소개하고 기계학습, 데이터 과학을 자세히 들여다본다. 그리고 프라이버시, 투명성, 설명 가능성, 편향, 공정성, 불평등 등 AI 윤리에서 다루어지는 쟁점들을 개괄한 다음 이러한 이슈들에 정책적으로 어떻게 접근할지를 검토한다. 마지막으로 기후 변화나 에너지 문제 같은 전 지구적 현안을 AI 문제와 연관 지어 논의함으로써 지속 가능한 삶을 구축하는 방법에 대해 더 깊이 돌아보게 한다. 옮긴이는 이렇게 말한다.

“AI를 그저 막연하게 두려워하거나, 밑도 끝도 없이 무작정 신뢰하거나, 혹은 우리에게 아무 선택권도 없다면서 단지 AI의 혜택과 해악을 감수할 뿐이라고 수동적으로 물러나 있지만 말고, 이 책을 통해서 우리가 AI에 대해서 그리고 AI와 함께 어떤 일을 할 수 있고 또 해야 하는지 고민할 수 있는 계기가 마련되었으면 한다.”

책 속에서

- 이 책은 AI의 미래에 대한 영향력 있는 서사와 인간의 본성과 미래에 관한 철학적 질문에서부터 책임과 편견에 대한 윤리적 우려, 그리고 기술로 인해 제기되는 현실 세계의 실천적인 문제를 정책을 통해 처리하는 방법에 이르기까지, 폭넓게 이해된 AI의 윤리적 문제에 대한 좋은 개괄을 가능한 한 너무 늦지 않게 독자에게 제공하는 것을 목표로 하고 있다.(21~22쪽)

- AI에 대한 서구의 사고는 이러한 근대적 공포와 매혹, 그리고 그 고대의 뿌리라는 감옥에 갇혀 있을 운명인가? 우리는 과장된 이야기를 넘어설 수 있을까, 아니면 논의의 초점이 계속 초지능에 맞춰질 것인가? 나는 우리에게 탈출구가 있다고 생각한다. 첫째, 우리는 서구 문화 바깥에서 기술에 관한 비프랑켄슈타인적 서사와 비플라톤적 사고방식을 찾아볼 수 있다.(41쪽)

- 대륙 철학자들은 대개 인간과 마음은 기계와 근본적으로 다르다는 점을 강조하며, 형식적인 기술이나 과학적 설명으로 환원될 수 없고 또한 환원되어서도 안 되는 자기의식적인 인간 경험과 인간 실존에 초점을 맞춘다. 그러나 대개 분석철학 전통에 속하는 다른 철학자들은 AI 연구자들의 인간관을 지지한다. 이들은 인간의 뇌와 마음은 컴퓨터 모델과 실제로 같으며 그렇게 작동한다고 생각한다.(48쪽)

- 원칙적으로 인간과 기계 사이에는 많은 유사성이 있으며 이론적으로 일반 AI가 가능하다고 믿는 과학자와 철학자조차도 보스트롬의 초지능에 대한 비전이나 인간-같은 AI가 머지않았다는 유사한 생각을 거부하는 경우가 많다는 점에 다시 한번 주목하자.(50쪽)

- AI에 대한 윤리적 논의를 간접적으로 형성하는 세 가지 분열에 대해 간략히 살펴보자. 첫 번째는 근대 초기에 빚어진 계몽주의와 낭만주의 사이의 분열이다. 다른 둘은 비교적 최근에 전개된 일이다. 하나는 근대성의 긴장 속에 자리하고 있는 휴머니즘과 트랜스휴머니즘 사이의 분열이고, 다른 하나는 근대성을 넘어서려는 휴머니즘과 포스트휴머니즘 사이의 분열이다.(52쪽)

- 포스트휴머니스트들은 근대 존재론과 윤리학에서 인간의 중심성에 의문을 제기한다. 이들에 따르면 비인간도 중요하며, 우리는 인간과 비인간 사이의 경계를 넘는 것을 두려워해서는 안 된다. 이는 인간과 기계의 경쟁 서사를 넘어서게 한다는 점에서 흥미로운 탐구의 방향이다.(56쪽)

- 이러한 포스트휴머니즘에 힘입어 AI는 인간을 모방하거나 재구성해야 한다는 부담에서 벗어나 여러 다른 비인간 종류의 존재, 지능, 창의성 등을 탐색할 수 있을 것으로 보인다. AI가 꼭 인간의 모습으로 만들어질 필요는 없다. 여기서 진보란 인간을 넘어 비인간적인 존재에게 자신을 개방하고 그것으로부터 배우는 것을 의미한다.(57~58쪽)

- AI에 대해 생각하는 것은 AI에 관해서만 알려 주는 것이 아니라, 우리 자신에 대해서도 무엇인가를 알려 준다. 우리가 어떻게 생각하고, 실제로 어떻게 비인간과 관계 맺고 있으며 또 관계 맺어야 하는지에 관해서 말이다. (중략) AI에 관한 질문은 인간 지식, 인간 사회, 인간 도덕의 본성에 관한 비판적 질문의 심연을 열어 준다.(77쪽)

- 그 자체로 존재하는 AI는 없다는 말의 또 다른 의미는 기술이 항상 사회적이며 인간적이라는 것이다. AI는 기술에 관한 것일 뿐만 아니라, 인간이 그것으로 무엇을 하는지, 어떻게 그것을 사용하는지, 어떻게 그것을 지각하고 경험하는지, 어떻게 그것을 더 넓은 사회적·기술적 환경에 내장시키는지에 관한 것이다. 이는 인간의 결정에 관한 것이기도 한 윤리학에 중요하며, 윤리학이 역사적·사회적·문화적 관점도 포함할 필요가 있음을 의미한다.(96쪽)

- 여기서 위험은 오늘날의 민주주의 사회에서도 AI가 새로운 형태의 조작, 감시, 전체주의로 이어질 수 있으며, 반드시 권위주의 정치의 형태가 아니더라도 더 은밀하되 대단히 효과적인 방식으로 그렇게 될 수 있다는 것이다.(120쪽)

- AI에 특화된 또 다른 쟁점은 편향 문제다. AI가 결정을 내리거나, 아니 더 정확하게는 결정을 추천할 때 편향이 발생할 수 있다. 그 결정이 특정 개인이나 집단에 부당하거나 불공정할 수 있다는 것이다.(149쪽)

- 한계를 설정하는 부정적 윤리 말고도 좋은 삶과 좋은 사회의 비전을 발전시키는 긍정적 윤리를 명시적이고 정교하게 만들어야 할 필요가 있다.(204쪽)

1장 거울아 거울아
인공지능에 대한 과장과 두려움: 거울아, 거울아, 우리 중 누가 가장 똑똑할까?|AI의 영향력|윤리적, 사회적 문제에 대한 논의를 위하여

2장 초지능, 괴물, 인공지능 묵시록
초지능과 트랜스휴머니즘|프랑켄슈타인의 새로운 괴물|초월과 인공지능 묵시록|경쟁 서사와 과장된 이야기를 넘어

3장 인간에 관한 모든 것
일반 인공지능은 가능한가?|근대성, (포스트)휴머니즘, 포스트현상학

4장 단지 기계?
AI의 도덕적 지위|도덕 행위주체성|도덕적 피동성|더 실천적인 윤리적 문제를 향하여

5장 기술
인공지능이란 무엇인가?|다양한 접근 방식과 하위 분야|적용과 영향

6장 데이터 (과학)을 잊지 말자
기계 학습|데이터 과학|응용

7장 프라이버시와 기타 유력 용의자들
프라이버시와 데이터 보호|조작, 착취, 취약한 사용자|가짜 뉴스, 전체주의의 위험성, 그리고 개인 관계에 미치는 영향|안전과 보안

8장 책임 없는 기계와 설명할 수 없는 결정
우리는 도덕적 책임을 어떻게 부여할 수 있을까?|투명성과 설명 가능성

9장 편향과 삶의 의미
편향|일의 미래와 삶의 의미

10장 정책 제안
해야 할 일과, 정책 입안자들이 답해야 할 질문들|윤리적 원칙과 정당성|기술적 해결책 및 방법과 운영의 문제

11장 정책 입안자들의 과제
선제적 윤리|실천 지향과 상향식|긍정적 윤리를 향해|간학문적 연구와 학제 초월성|AI 겨울의 위험과 무분별한 AI 사용의 위험성

12장 문제는 기후야, 바보야!
AI 윤리는 인간 중심적이어야 할까?|우선순위 올바르게 정하기|AI, 기후 변화, 인류세|새로운 우주 열풍과 플라톤적 유혹|지구로의 귀환|지성과 지혜를 찾아서

감사의 말
주석
옮긴이의 말
용어 해설
참고 문헌
추천 자료