인간 vs 기계 - 김대식

알파고가 사람들에게 충격을 선사한 이후, 제4차 산업혁명은 현재진행형이 되었다. 당연히 인공지능과의 공존을 모색하는 논의들이 봇물터지듯 나오고 있다. 이에 발맞추어 한국의 뇌과학자가 인공지능과 공존하는 미래에 대한 나름의 생각을 밝혔다.

저자 김대식은 KAIST에 근무하는 뇌과학자다. 초창기에는 컴퓨터 공학자들이 인공지능을 주로 이야기했는데 지금은 뇌과학자들이 인공지능에 대한 논의를 주도하고 있다. 그것은 인공지능의 구현이 뇌를 시뮬레이션해야만 하는 것을 알게 되었기 때문이다. 제목에서의 기계는 당연히 인공지능을 의미한다. 모든 신기술의 등장이 그랬듯, 인공지능의 등장도 그 미래에 대한 낙관론과 비관론에 대한 논의들이 무성하다. 저자는 글의 서두에 이미 비교적 중립적인 생각을 언급한다.
"인공지능 시대의 미래는 어떤 모습일지 아무도 확신할 수 없다. 유토피아 혹은 디스토피아, 이 예측 역시 설왕설래다. 그렇지만 변하지 않는 사실은, 그 미래는 정해진 것이 아니라 만들어가는 것이라는 점이다. 우리 스스로의 노력과 비전에 따라 천국이 될 수도 있고 지옥이 될 수도 있다."

인공지능은 말 그대로 인간의 지능에 비견되는 존재를 의미한다. 그것은 '의식' 또는 '자유의지' 등과 함께 주로 철학에서 논의되어 왔던 주제였다. 그런데 인공지능을 연구하는 과정에서 그런 철학적 논의들이 오류라는 것이 밝혀졌다고 저자는 언급한다.
"결국 최근에서야 2,500년 동안 시도했던 기계에 지능을 넣는 방법이 잘못됐다는 결론을 내렸습니다. 2,500년 전부터 이어져온 서양식 사고의 기초가 바뀌었죠. …… 우리가 맨날 문제를 쉽고 어렵다고 이야기할 때, 우리한테 쉬운 걸 쉽고 우리한테 어려운 걸 어렵다고 이야기했는데 그게 틀릴 수도 있겠구나 하고 깨닫게 되었습니다. 쉽고 어렵다는 것의 근원적인 정의가 달라야 된다고 생각하게 됐죠."
이 논의에 부언하자면, 선과 악, 도덕과 윤리 등도 근원적인 정의가 달라야 되는 개념들이다.

인공지능을 개발하기 위해 그 배경 지식에 해당하는 뇌의 작동 메카니즘에 대한 언급도 곁들인다.
"다시 말하자면 '기억한다'라는 것은 어디에다 정보를 저장했다가 가져오는 것이 아니고 매번 새로 만들어내는 것이나 다름없죠."
"뇌가 오감을 통해 정보를 획득한다는 것은 뇌가 해석을 한다는 것이고 해석을 한다는 것은 실수의 여지가 있을 수도 있음을 뜻합니다. 뇌가 하는 해석이 객관적이지 않다는 것이죠."
"비슷하게 우리 뇌에는 10¹¹개의 신경세포들이 10¹⁵개의 시냅스라는 연결선으로 연결되어 있습니다. 그중 3분의 1 정도는 유전적으로 만들어지고, 3분의 1은 환경을 통해서 만들어지고, 나머지 3분의 1은 그냥 랜덤으로 만들어집니다."

인공지능에 대한 연구는 여러 갈래로 진행되어 왔기 때문에 여러 용어가 등장한다. 이 용어들에 대한 간략한 정의를 이야기한다.
"지금까지 개발해온 전통적인 인공지능은 단지 신호를 받으면 저장된 프로그램에 따라 반복하는 기계일 뿐입니다. 인간이 주는 조건이 여러 가지이고 그 조건의 조합에 따라 이미 명령된 다양한 행동들 중 하나를 수행하는 것일 뿐이지요."
"전통적인 인공지능 방법과 딥러닝 인공지능 방법을 나눠서 설명하자면, 전통적인 인공지능 방법은 1950년대 부터 시도했던 인공지능이고 지금은 이것을 특징공학Feature Engineering이라고도 부릅니다."
"딥러닝의 태동은 사실 1957년입니다. 딥러닝의 '할아버지' 격 되는 프로그램은 1957년 천재 과학자 프랭크 로젠블라트 Frank Rosenblatt가 발명한 퍼셉트론Perceptron입니다. 퍼셉트론은 인공신경세포들을 적절히 연결시켜준 것으로, 이 프로그램은 논리 연산 규칙을 스스로 인식하게 됩니다. 기계학습은 사실 1957년부터 시작되었던 것이죠."
"결국 딥러닝 기계가 추론해낼 수 있는 깊이는 이미 인간보다 깊습니다. 인간은 10-20층 높이인데, 알파고는 48층, 마이크로소프트사의 기계는 152층이에요. 어쩌면 이 기계들이 인간이 상상할 수 없는 미래를 추상화하고있을지도 모른다는 점입니다."
"딥러닝을 기반으로 한 인공지능을 만들었더니 답을 찾을 뿐만 아니라 전혀 기대하지 않았던 일을 마구 해냅니다. 이 약한 인공지능을 조금 더 엄밀히 말하자면 '인지자동화'라고 볼 수 있습니다. 자동화의 핵심은 대량생산입니다."
"세상을 알아보고 알아 듣고, 이야기하고, 글을 읽고 쓰고, 정보를 조합하고, 이해하는 것을 사람하고 비슷한 수준으로 수행하는 인공지능을 약한 인공지능이라고 생각하시면 됩니 다. 이 약한 인공지능의 능력에 플러스 알파로 독립성이 있고, 자아가 있고, 정신이 있고, 자유의지가 있는 기계를 강한 인공지능이라고 합니다."
"불도저가 나오는 순간 인간은 아무리 삽질을 해도 인간의 삽질은 불도저를 이기지 못합니다. 마찬가지로 약한 인공지능 좀 더 엄밀히 말하자면 인지자동화이지만, 기계가 정보를 사람 수준으로 처리할 수 있는 순간 사람 수준으로만 하는 게 아니라 사람보다 훨씬 더 잘하게 됩니다."

레이 커즈와일이 자신의 저서 '특이점이 온다'에서 기술 폭발이 일어나는 지점을 특이점이라고 했다. 인공지능에 대해서도 특이점이라고 하면 인간 수준의 지능이 등장하는 지점을 말한다. 저자도 이에 대한 이야기를 한다.
"기술이 발전하는 과정 중 늘 걱정해야 할 부분은, 기술은 어느 한순간 기하급수적으로 증가하는 시점이 있다는 것입니다. 이를 두고 특이점이라 부릅니다. 하지만 이 특이점은 나중에 알 수 있어요. 대체로 직선 형태로 성장하고 있다고 생각하기 쉽습니다. 특이점은 미래의 일이기 때문에 어디서 오는지 알 수 없죠. 우리는 과거로 미래를 예측하다 보니 현 상태에서는 선형으로 증가한다고 예상하는 것이 더 일반적입니다."
"인공지능 기반의 기술이 분명 특이점을 만들 것인데, 이 시점이 언제인지는 아무도 모릅니다. 확실한 것은 200년 후가 아니라 10-30년 남짓 남았다는 거죠."

약한 인공지능은 인간에 위협적이지 않지만 강한 인공지능은 인간에 위협적이라고 많은 사람들이 생각한다. 그래서 비관론자들은 강한 인공지능은 등장하지 못할 것이라고 이야기한다. 그러나 저자는 그게 아니라고 한다.
"다시 말하자면 약한 인공지능이 가능해지기 시작한 것은 약한 인공지능에 필요한 뇌의 기능들을 이해했기 때문입니다. 이런 맥락으로 강한 인공지능이 여전히 불가능한 이유는 강한 인공지능에 필요한 뇌과학적 요소들, 정신, 감정, 창의성, 자아에 대해 뇌 과학적으로 이해를 못했기 때문입니다. 결국 우리가 이해하지 못해서 불가능하다고 믿는 거예요."
"저도 불가능했으면 좋겠지만 이해 못했기 때문에 불가능 하다는 것은 논리적이지 않습니다. 이해를 못했기 때문에 아직 못 만든다고 말해야죠. '아직 못 만든다'와 '영원히 못 만든다'는 완전히 다른 이야기잖아요. 강한 인공지능이 지금 당장 가능하다는 증거도 완전히 불가능하다는 증거도 어디에도 없어요."

비관론자들이 강한 인공지능의 등장을 두려워하는 것은 이유가 있다. 바로 다음과 같은 이유 때문이다.
"강한 인공지능이 생겼을 때 인류에게 주는 영향을 시물레 이션을 해봤습니다. 다양한 시나리오로 시물레이션했어요. 구글이 만든 답, 정부가 만든 답, NGO가 정말 조심스럽게 만든 답. 모든 시나리오를 시뮬레이션해보니 결론이 항상 똑 같습니다. 약간 시간적인 차이가 있지만 강한 인공지능의 모든 끝이 인류멸망입니다."
그러나 그 결과를 받아들이더라도 그 상황을 부정적으로만 보지 않는 견해도 있다.
"카네기멜론대학의 앤드루 무어Andrew Moore 교수는 이렇게 이야기한 적도 있습니다. "강한 인공지능이 등장하면 인류는 멸망한다. 근데 그게 왜 나쁜가? 인류가 멸망하는 것이 왜 나쁜지 한번 설명해 봐라"라고 말이죠."

저자는 비교적 중립적인 입장에서 인공지능과 공존하는 미래를 담담하게 이야기한다. 그리고 이 책은 부피가 적으면서도 인공지능의 개발이 진행된 역사부터 현재 진행형인 기술 소개에 이르기까지 간결하게 소개하고 있어, 독서 추천은 '일독을 권함'으로 할 만하다.