파이널 인벤션 - 제임스 배럿

세상은 소수의 극단적인 비관론자와 낙관론자와 더불어 그 중간에 위치하는 다수의 사람들이 있다. 그리고 신기술이 등장하면 어김없이 낙관론과 비관론이 쏟아져 나온다. 미래는 알 수 없다는 점에서 비관론이든 낙관론이든 그저 하나의 견해일 뿐이라는 것은 마찬가지다. 그런데 신기술의 등장에 따른 비관론과 낙관론은 대칭이 아니다. 왜냐하면 비관론의 경우는 기술 개발을 억제하라는 요구가 따르기 때문이다.

심신이원론이 자명한 진리였던 시절, 철학은 정신의 산물이어서 학문의 제왕으로 군림했다. 그에 비해 과학은 물질을 다루는 형이하학이었다. 그 과학 분야에서 세상을 뒤집을지도 모르는 신기술들이 지속적으로 개발된다. 그런데 이 신기술들은 언제나 그랫듯 긍정적인 영향과 부정적인 영향을 함께 보여준다. 그럴 때 철학자들은 부정적인 영향을 강조하면서 과학을 과학자들의 손에만 맡겨서는 안된다고 주장한다. 문제는 전혀 검증되지 않은 자명한 원리에 입각한 추론에 의해 신기술을 평가하고 비판한다는 것이다. 과학, 기술은 그런 비판이나 논의와는 무관하게 발전한다. 그러니 개발을 억제해야 한다고 주장하기 보다는 능동적으로 활용할 생각을 하는 것이 훨씬 더 생산적이다.

인공지능도 무수한 낙관론과 비관론을 쏟아내게 만드는 중요한 화두 중의 하나이다. 그 중에 과학자가 아닌 저자에 의해 전개되는 비관론을 한번 살펴보자.

저자는 다큐멘터리 제작자다. 인공지능 개발에 관여하는 많은 사람들을 인터뷰하면서 점점 비관론적인 결론으로 기울어졌다. 글의 시작은 "진보된 인공지능이 안전하게 발전할 지에 대한 합리적인 의문"을 가지는 것으로, 중립적으로 한다. 그리고 인공지능에 대한 가벼운 정의와 원리를 소개한다.
"조만간 흔히 AGI(artificial general intelligence)라고 부르는 인간 수준의 지능을 가진 인공지능이 탄생할 것이다. 그로부터 머지 않아 사람(또는 물건)들이 ASI(artificial superintelligence)라고 부르는 인간보다 똑똑한 인공지능이 등장한다."
"사람들을 만족시키는 유용한 작업을 하는 인공지능은 흔히 볼 수 있다. 이를 약한 또는 narrow AI라고 하는데 매우 유용한 검색을 한다거나(구글), 개인의 선택에 기반을 두고 읽을 만한 책을 권유하거나(아마존), 뉴욕증권거래소나 나스닥NASDAQ 거래의 50-70퍼센트를 차지하는 주식을 사고 파는 행위 등을 한다. 이들은 하나의 작업에만 뛰어나기 때문에 narrow AI라 부른다. IBM의 체스인공지능 딥 블루나 퀴즈쇼 '제퍼디!'에서 실력발휘한 왓슨도 이런 narrow AI 범주에 들어간다."
"생각thinking은 신경세포와 시냅스, 수상돌기 등과 같은 뇌의 일부분들이 수행하는 생화학적인 프로세스이다."

그러나 저자는 과학자가 아닌 탓에 '물질에 대한 정신 우위'와 '특별한 존재로서의 안간'이라는 개념을 바탕에 깔고 논의를 전개하므로 다음과 같은 지극히 인간 중심의 생각을 표하게 된다.
"인공지능의 목표가 무엇이든(체스를 두거나, 운전을 하거나) 인간의 가치를 보존하는 것을 (그리고 인간 그 자체를) 중요하게 여겨야 한다."
그리고 인공지능이 실제로 무엇이고, 무엇을 할 수 있는지에 대한 논의가 아니라 그동안 철학에서 탁상공론 식으로 거론하는 의문점을 제기한다.
"왓슨의 증거기반 확률evidence-based Probabilities도 일종의 코딩화encoding된 컴퓨터일 뿐이다. 이것이 지식일까?"
"마지막으로 지능이 나타나려면 과학자들이 반드시 지능적인 능력 이외에 감성도 갖춘 기관을 시뮬레이션 해야만 한다는 관점이 있다."
이런 사변적인 의문에 대해 과학자는 명쾌하게 답한다.
"왓슨이 생각할 수 있느냐는 질문에 IBM의 수석 과학자이자 왓슨의 책임자인 데이비드 페루치는 네덜란드 컴퓨터 과학자 에드거 다익스트라Edger Dijkstra의 말을 인용해 이렇게 답했다. "잠수함은 수영을 할 수 있습니까?""

저자는 과학자가 아니고, 인공지능을 연구한 사람은 더더욱 아니어서 인공지능의 미래에 대해서 알 수 없음을 이야기한다.
"우호적인 인공지능이 실제 수학적인 방식으로 제대로 표현될 수 있을지는 아직 불명확하다. 그러므로 미래의 인공지능 시스템에 이를 제대로 구축할 수 있을지 알 수 있는 방법은 없다."

철학적 논의에서 흔히 등장하는 부질없는 논의도 나온다.
"버노 빈지는 '특이점'이라는 단어를 공식적으로 처음 사용한 사람이다. 1993년 나사NASA에서 '기술적 특이점이 온다'는 제목의 강의를 통해 이를 처음으로 언급했다. 수학자 스타니슬라프 울람Stanislav Ulam 이 1993년보다 35년 빠른 1958년에 존 폰 노이만John von Neumann과 기술의 변화에 대한 대화를 나누면서 '특이점'이란 단어를 사용했다고 주장하기도 하지만, 빈지의 말이 더 많이 알려졌고, 심사 숙고한 선택이었으며, 특이점이라는 공을 굴려 커즈와일의 손에 들어가게 하여 오늘날의 특이점까지 연결시켰기 때문에 이 단어를 빈지가 처음 사용한 것으로 보는 것이 더 합당하다."

저자는 과학자들에게 다음과 같은 요구를 한다.
"이 책을 쓰면서 과학자들에게 일반인들이 알아들을 수 있는 용어로 소통해 달라고 요구했었다. 내가 가장 필요하고 중요하다 생각하는 점은 인공지능의 위협에 대해 일상적인 대화가 가능하도록 만드는 것이다."
문제는 과학자들이 인공지능에 대해 지속적으로 이야기하고 있다는 것이다. 그런 이야기를 '지나친 낙관론'으로 치부하고는 계속 소통을 요구한다. 게다가 인공지능이 어떻게 전개될 지 모른다고 인정하고서도 '위협'으로 단정한다.

그리고 중립적인 것 같지만 사실은 비관론을 바탕으로 한 다음과 같은 애매한 말로 글을 마무리짓는다.
"위협을 탐구하여 이를 모니터링이 하는 것은 이미 실패를 경험한 바가 있다. 실패는 지속적이고 피할 수 없는 기계지능의 성장에 영향을 미치지 못한다. 그리고 우리를 넘어서 지능을 가진 존재와의 공존을 확립할 기회가 단 한번 주어질 것이라는사실도 변하지 않을 것이다."

이런 식의, 온건하긴 하지만 아무튼 비관론적인 관점은 기술 발전을 더디게 할 뿐, 그 신기술이 긍정적으로 기능하도록 유도하는 역할도 하지 못하는 그야말로 무의미한 논의일 뿐이다. 그러므로 이 책의 독서 추천은 '중립'이다.