기계가 인간처럼 생각할 수 있다면
인공지능은 결국 인간을 대체하게 될까?

조지프 르두, 휴버트 드레이퍼스 추천
<네이처> <사이언티픽 아메리칸>이 주목한 과학자, 엘리에저 스턴버그의
인지과학 입문서!

과학과 기술의 발전은 이제는 ‘빠르다’는 말로는 설명하기 모자랄 정도다. 2016년 알파고가 바둑으로 이세돌 九단을 이겨 사람들에게 커다란 충격을 준 후에도 과학과 기술은 비약적으로 발전해왔다. 그로부터 6년이 지난 지금, 똑똑해진 기계는 생활에 더 깊이 스며들어 우리 삶의 일부가 되었다. 가령 복지 분야에서는 혼자 사는 노인에게 인공지능(AI)이 전화를 걸어 안부를 묻는다. ‘무릎이 아프다’고 하면 찜질팩을 권하고, 전화를 받지 않으면 관할 부서나 병원에 대신 연락을 주기도 한다. 애플워치가 사용자의 건강 이상을 알아채, 큰 사고를 면했다는 이야기도 드물지 않게 들려온다. 국내 유수의 대기업들이 AI 개발에 전투적으로 자본을 투자하고, ‘디지털 친구’를 표방한 초거대 AI기반의 서비스 출시 소식도 줄을 잇는다. 최근 자주 언급되는 초거대 AI란 데이터를 스스로 학습해, 인간처럼 생각하고 판단하는 차세대 AI다. 알파고처럼 한 분야에 특화된 AI와 달리, 초거대 AI는 특정 영역에 얽매이지 않으며 이전 세대 AI에 비해 수천 배 이상의 능력을 보여준다고 한다. 그야말로 ‘인간의 뇌’와 닮은 AI라고 할 수 있겠다.
이러한 기술의 발전은 우리의 삶을 편리하게 만드는 동시에 위기감과 두려움을 준다. “인공지능은 결국 인간을 대체하게 될까?”, “기계가 인간과 같은 능력을 가진다면 우리 또한 기계라고 볼 수 있을까?”, 우리가 기계와 다르다면 “인간을 인간답게 하는 것은 무엇인가”

데카르트부터 커즈와일, 민스키, 튜링, 드레이퍼스까지
‘우리는 기계인가’라는 질문을 둘러싼 치열한 논쟁!
스턴버그는 이 책에서 저명하고 박식한 인물들이 의식에 대해 펼쳐낸 다양한 관점을 소개한다. 가장 오랫동안 의식을 설명하는 데 이용된 견해는 물질계와 정신계라는 두 개의 세계가 각각 존재한다는 이원론으로 데카르트는 일찍이 인간은 육체가 없어도 사고가 가능하므로 마음이란 비물질적인 것이라는 결론을 내렸다. 그러나 과학이 발달하며 인간이 ‘생물학적 기계’에 불과하다고 주장하는 사람들이 생겼다. 노벨 생리 의학상을 수상한 프랜시스 크릭은 우리가 자유의지를 가진 것 같지만 실제로는 그렇지 않다고 주장한다. 우리의 계획은 우리가 의식하지 못한 사이 뇌가 행한 계산의 결과라는 것이다.(83쪽) 크릭과 에덜먼은 세상에 영혼 따위는 없으며, 마음을 만들어내는 건 뇌뿐이라고 생각했다.
이후로도 학자들의 갑론을박은 계속되었다. 철학자이자 인지과학자인 데니얼 데닛은 튜링 테스트를 통과할 수 있는 기계들은 모두 자신에게 의식이 있다는, 자신이 만들어낸 환상의 피해자라고 말한다. 그리고 우리도 그러한 환상에 시달리고 있다고 주장한다. 우리 또한 여러 처리 단계를 가진 복잡한 기계에 불과하다는 것이다. 반면 철학자 휴버트 드레이퍼스는 인간이 기계와 같다고 생각하지 않는데, 인간은 기계처럼 알고리즘을 따라서만 작동하지 않기 때문이다. 드레이퍼스는 기계가 풀 수 있는 것은 오직 잘 정의된 문제뿐이며, 인간의 추론과 같은 능력은 절대로 얻을 수 없을 거라고 말한다. 그는 대표적인 사례로 어느 AI 연구자의 프로그램을 거론한다. 이 프로그램은 종업원이 식당에 음식이 다 떨어졌다고 말하는 것과, 그 말을 듣고 가족이 대신 종업원을 잡아먹는 것을 똑같이 이상하다고 판단했다.
그러나 400년간 이어진 치열한 논쟁에도 불구하고 인간의 의식에 관해서라면 아주 작은 부분에서도 누구 하나 의견의 합치를 보지 못했다. 논쟁의 끝은 아직 먼 것처럼 보인다. 그렇지만 이 모든 논쟁이 무의미한 것은 아니다. 저자는 과학자와 철학자 들의 의식에 관한 치열한 탐구 덕분에 우리가 자신을 더 잘 이해할 수 있게 되었으며, 이것이 바로 미래에 새로운 관념이 탄생할 토대가 될 거라고 말한다.

과학자와 철학자 들이 의식을 설명하기 위해 내놓는 이론들은 아직 정답 근처에도 가지 못했지만 그들의 치열한 논쟁을 통해 우리는 스스로를 더 잘 이해할 수 있게 되었다. 이론들이 서로 충돌하고 진화를 거듭하는 과정에서 우리는 새로운 관념이 탄생할 토대를 마련함으로써 불가사의 해결에 한 걸음씩 다가서고 있다. 새로운 세대의 이론과 이론가들이 등장할 일도 머지않았다.(234쪽)

현대 과학의 ‘마지막 거대한 불가사의’
인간의 의식에 관한 흥미로운 대화
의식에 관한 연구는 어느덧 철학, 심리학, 인지과학, 신경과학, 컴퓨터공학, 공학의 공통 주제가 되었다. 어떤 사람은 의식이 전적으로 기계적인 과정에 의해 생성된다고 말한다. 인간의 마음이 그저 신호와 반응으로 이루어진 시스템이며 소화나 광합성 같은 과정과 다를 바 없다고 말이다. 또 다른 측은 의식이 물리적인 세계와는 구별되는 무언가여서 우리가 뇌를 얼마나 잘 알게 되든 우리가 무슨 생각을 하는지는 결코 알 수 없다고 믿는다. 마음은 절대 단순한 기계적 기능이 아니라는 것이다. 한편 어떤 이들은 인간의 의식이 과학 연구로는 닿을 수 없는 영역이라고 여긴다.(19~20쪽)
한편 레이 커즈와일 같은 기술 전문가들은 과학 기술 발달의 가속화가 의식을 갖춘 기계의 출현을 가능케 하리라는 믿음을 고수했다. 현재의 접근법이 실패한다 해도 새로운 기법과 혁신으로 지금으로서는 상상도 못할 일들을 이루어낼 거라고 말이다. 데닛의 의견을 따르는 과학자들은 우리가 하는 모든 행동이 유기적인 기계 조직의 지배를 받으므로 인간 또한 생물학적 기계이며, 결국 우리와 비슷하거나 더 뛰어난 능력을 지닌 기계를 만들어 내리라는 주장을 견지했다. 기술 발전 속도가 해를 거듭할수록 점점 더 빨라져 기계가 인간의 의식이 가진 힘을 뛰어넘는 능력을 발휘하게 되리라는, 일명 ‘수확 가속 이론’에 따른 전망이다.
이 모든 논쟁을 펼쳐놓고 저자는 묻는다. 의식은 도대체 무엇일까? 뇌 구조를 낱낱이 파악하면 마음속을 꿰뚫어 볼 수 있을까? 기술이 발전하면 의식을 갖춘 기계를 만들어낼 수 있을까? 마음을 물리적 작용으로 모두 설명할 수 있다면, 우리는 기계인가?

나도 이 논쟁의 답을 찾는 일에 몰두했지만 이 문제는 그 자체로도 매력이 넘친다. 이어지는 열다섯 개의 장에서는 대체 이 논란의 무엇이 그렇게 특별한지 전하고자 했다. 나의 견해는 마지막 장에서만 다루었다. 이 책의 목표는 이 논쟁이 추상적이고 철학적인 문답뿐만 아니라 우리가 자신에 대한 개념을 정립하는 데도 매우 중요하다는 사실을 알리는 것이다.(12쪽)

이 책은 독자들에게 ‘갈 길을 알려주는’ 대신 독자들을 인간의 의식이라는 거대한 불가사의로 ‘손짓해 부른’다. 스턴버그는 독자들이 마음과 뇌의 관계를 스스로 고민하고, 자신만의 사고의 틀을 정립할 수 있게 돕기 위해 비유와 이야기, 다양한 사고실험을 이용한다. 가령 중국어 방에 튜링 테스트를 실시하는 ‘중국어 방’ 논증이나 의식과 감각질이 결여된 좀비들의 세계를 상상하는 ‘좀비’ 사고실험은 독자들이 인간의 마음이 지닌 미지의 특성을 어떻게 이해하고 있는지 되돌아보게 한다.

철학자 데이비드 차머스는 “좀비란 신체적으로 나와 동일하지만 의식적인 경험은 하지 못하는 어떤 것으로, 그 내면은 암흑과 같다”고 묘사했다. (…) 가령 당신의 좀비 쌍둥이가 장미 한 송이를 꺾어 들고 “이야, 내가 꺾은 장미 좀 봐! 아주 짙은 붉은색에 향기도 훌륭해”라고 말했다고 하자. 이를 보면 마치 이 좀비가 장미를 꺾는다는 의사 결정을 내리고 장미의 향과 색을 감상하는 것만 같다. 하지만 실은 이 중 어느 것도 하고 있지 않다. 감각질은 알다시피 내면의 사적인 경험이다 보니 다른 사람들에게는 이 쌍둥이도 의식이 있는 것처럼 여겨질 것이다. 어떤 개체가 좀비인지 아닌지 구분할 ‘좀비스러운 특징’은 찾을 수 없다. 당신과 좀비 쌍둥이가 같은 활동에 참여할 때마다 둘은 서로 비슷하게 행동하겠지만 오직 인간인 당신만이 감각질을 경험한다. 좀비는 아무것도 모르고 아무런 경험도 하지 않는다. 좀비로서 느낄 수 있는 것은 아무것도 없다.(168쪽)

철학, 신경과학을 넘나들며 파헤치는 뇌와 마음의 작용 원리
인간을 인간답게 하는 것은 무엇인가
철학자 안드레아스 토이버는 이 책의 해제에서 “당신이 이 문제에 대한 자신만의 견해를 가지고 있지 않더라도 스턴버그의 책을 끝까지 읽을 즈음에는 답을 찾을 가능성이 높다”라고 말한다. 이 책이 “인간의 의식을 둘러싼 문제를 해결할 가장 좋은 방법이자 가장 신뢰할 만한 방법”, 즉 질문을 던지고 스스로 답을 찾는 과정에 독자들을 초대하기 때문이다. 이 책은 풀 수 있을지 없을지조차 알 수 없는 아주 어려운 문제에 답을 찾아 나설 계기를 제공하고, 독자들이 마음과 뇌를 둘러싼 이 흥미로운 대화에 참여하기를 독려함으로써, ‘마지막 거대한 불가사의’라 불리는 인간의 의식에 접근하고자 하는 모두에게 훌륭한 출발점이 된다. 책의 말미에서 스턴버그는 지금은 상상할 수 없는 미래에 대한 기대를 품고 묻는다. “만약 우리 세대에서 이 의식에 관한 불가사의를 풀게 된다면 가슴 뛰는 사건들이 이제 곧 펼쳐지지 않을까?”

단 한번의 발견이 세상을 뒤바꾼 사례는 역사적으로도 여러 번 있었다. 페니실린의 우연한 발견이 치료제에 혁명을 가져왔고, 인터넷의 발명은 우리의 생활 방식을 전면적으로 탈바꿈시켰다. DNA의 발견은 생물학 연구의 방향을 완전히 바꿔놓았다. 그러나 이처럼 역사적으로 매우 중요한 한 걸음조차 훗날 인간의 마음이 어떤 원리로 작용하는지를 둘러싼 논쟁에 종지부를 찍을 이론이 등장하고 나면 한없이 초라해 보일 것이다. 만약 우리 세대에서 이 의식에 관한 불가사의를 풀게 된다면 가슴 뛰는 사건들이 이제 곧 펼쳐지지 않을까.(235쪽)

들어가는 말

1 어느 과학자의 연구실에서
2 불가사의한 힘
3 기계 속의 유령
4 만들어진 마음
5 무의식에서 피어난 의식
6 마음을 만드는 방법
7 튜링 테스트
8 기계의 우월성
9 중국어 방 논증
10 머릿속의 작은 악마들
11 지극히 개인적인 경험
12 좀비들의 행진
13 의식에 대한 부정
14 컴퓨터의 한계
15 새로운 관념의 토대

해제
감사의 말
참고문헌