What a beautiful world!
세상이 조금이라도 더 나은 방향으로 가기를 기대하면서

독서

인간은 필요없다 - 제리 카플란

thinknew 2017. 7. 12. 18:15

인공지능에 대한 논의에서 큰 틀에서의 윤곽은 서서히 잡혀 가는 듯하다. 인간 지능을 초월하는 '초지능'이 등장할 것이라는 것과 인공지능과 인간과의 관계는 인간에 의해서가 아니라 초지능에 의해서 설정될 것이라는 점이 그것이다. 그럼에도 불구하고 인공지능이 인간에게 유익할 것인지, 유해할 것인지에 대한 논의는 여전히 무성하고, 긍적적인 관점보다는 부정적인 관점이 조금 더 우세한 듯하다. 이는 진화심리학에 비추어 보면 이해가 가는 현상이다. 인간 뿐만 아니라 대부분의 생물들은 다른 것을 경계하는 본성을 가지고 있다. 다만 인간은 대뇌 피질의 진화로 추론이 가능하기 때문에 다른 것은 무조건 회피하고 보는 반사적 반응에서 상당한 정도로 벗어나 있을 뿐이다. 그래서 우리와 다른 외계인들에 대해 우호적인 관점보다는 적대적인 관점이 더 우세한 것도 마찬가지 현상이라고 볼 수 있다.

얼마 전에 요약을 올린 '슈퍼인텔리전스'는 인간을 능가하는 초지능의 영향에 대해 부정적인 관점이 좀 더 우세한 책이었다면 이 포스트에 요약을 올릴 다음 책은 긍정적인 관점이 좀 더 우세하다.


저자는 기술 혁신이 초기에는 인간 사회에 고통을 주었다는 역사적인 사실을 들어 인공지능의 등장도 마찬가지의 길을 걸을 것이라고 추론한다.
"앞으로 전례 없는 경제적 번영과 여가의 시대를 맞이할 공산이 커졌지만, 그 변화 과정은 상당히 길고 잔혹할지도 모른다."

일반 대중들 뿐만 아니라 학자들 중에도 인공지능과 로봇을 명확하게 구분하지 않고 이야기하는 경향이 있지만 저자는 그 둘을 명확하게 분리하여 언급한다.
"개개인의 대리인 노릇을 하는 인조지능과 인조노동자의 등장은 수많은 현실적인 문제들을 몰고 올 것이다."
그러면서도 인간에게 전혀 새로운 기술이라는 점에서 그 둘의 영향을 같이 이야기하기도 한다.
"마르크스는 경제학자로서 산업 자동화로 자본이 노동을 대체하리라고 예견했지만, 인조노동자들에까지 생각이 미치지는 못했다 그래서 저급 노동자와 높은 급료를 받는 관리자들 사이에 벌어지는 인간 대 인간의 갈등이라는 그의 논리는 잘못된 길로 들어선다."
"기술의 발전 속도가 노동자들이 적응하는 속도보다 훨씬 빠르므로, 교육 방식에 대대적인 변화를 주지 않으면 노동자들이 기술 발전을 따라잡지 못한다. 먼저 학교에 다니고 그 다음 일을 찾는, 교육에서 노동으로 이어지는 순차적인 시스템은 일생을 거의 똑 같은 일을 하면서 보낼 것으로 예측했던 시절에는 별 문제가 없었다. 그러나 앞으로는 그런 기대를 품을 수가 없다. 일의 종류가 너무 빨리 바뀌어서, 겨우 한 분야에서 선두에 섰다고 생각하면 어느새 시대에 뒤떨어진 기술이 되어버린다."


저자는 인공지능과 함께 할 가까운 미래 상황을 추론하지만 사변적 논의로 빠지지는 않는다. 그래서 이 책의 저술 목적을 다음과 같이 이야기한다.
"내가 이 책에서 목표하는 바는, 이 모든 어려움을 슬기롭게 헤쳐 나갈 수 있도록 독자들이 지적인 도구, 윤리적 기초, 심리적 토대로 갖출 수 있게 돕는 것이다."

인공지능의 발전의 역사를 언급하는 과정에서 일반인들은 이해하기가 쉽지 않은 용어들이 등장한다. '구조화 프로그래밍', '기호 체계 접근법', '발견적 프로그래밍', '전문가 시스템' '신경망' '기계학습' 등의 용어들은 이 책을 통해서는 구체적으로 이해하기는 어려울 듯하다.

인공지능과 로봇의 발전은 다음의 4 가지 기술의 융합에 의해 급격하게 이루어진다. 첫째, 컴퓨터 능력의 놀라운 성장, 둘째, 기계학습 기술의 발전, 셋째, 경량 소재와 정교한 제어 기술을 사용함으로써 예기치 못한 장애물(예를 들면 사람의 신체 일부)과 맞닥뜨렸을 때 즉각적으로 대응할 수 있어서 오작동으로 인해 인간을 위협할 수 있는 위험을 현저하게 감소시킨 로봇의 디자인 그리고 기계 인지의 발전이다. 이러한 기술의 융합에 의해 창조된 인조지능과 로봇의 결합체가 유용한 이유를 다음과 같이 설명한다.
"주어진 임무를 수행하려면 특정 자원과 능력이 있어야 한다. 이때 필요한 자원은, 일을 수행할 ‘에너지’, 관련된 측면을 감지하는 능력인 ‘인식', 계획을 세우고 수정하기 위한 ‘추론’, 예를 들면 양손으로 물체를 드는 것처럼 목표한 바를 실제로 실행할 ‘수단’의 네 가지 영역으로 크게 분류된다. 원칙적으로는 이 자원들이 한 장소에 모여 있을 필요는 없다. 그러나 현실적으로는 모든 자원이 한데 있으면 유용한 경우가 많다. 우리 인간이 그 예다."
그러나 우리 인간이 진화의 정점은 아니어서 추가적인 진화가 이루어지는데에는 기계들이 더 효율적임을 지적한다.
"인간들은 서서히 진화하는 생물학적 존재이기 때문에 그 새로운 영역을 탐구할 최적의 존재가 되지는 못한다. 가장 적합한 존재는 바로 기계들이다."

저자도 인조지능과 공존해야 하는 미래를 다음과 같이 예측하기는 한다.
"문제는 이 시스템을 우리 이익에 맞게 설계할 기회가 단 한 번밖에 없을지 모른다는 사실이다. 다시 해볼 기회는 없을 가능성이 크다. 한번 망치면 고치기가 굉장히 어렵거나 아예 불가능하다. 결국에는 허용되는 것과 허용되지 않는 것, 따라야 할 규칙을 결정하는 주체가 인조지능이 될지 모른다."
그러면서도 인간보다 우월한 인조지능이 결국은 인간을 보호해 줄 것이라는 희망적인 결론을 내린다.
"인간들이 스스로를 해치는 상황을 막기 위해 인조지능이 개입하고 나서면, 그제야 인조 지능의 존재가 명확히 드러날 것이다. 그때 우리는 진실을 알게 된다. 누가 사육사이고 누가 사육당하는 처지에 있는지 말이다. 지구는 햇빛과 고독만이 존재하는 유리 사육장에, 모두의 이익을 위해 우리가 맞아들였던 기계 경호원들이 가끔씩 끼어들어 모두 순조롭게 돌아가는지 살피는, 벽과 담장없는 동물원이 될지 모른다."

이 책은 인공지능과 공존해야 하는 상황에 대한 이야기가 주를 이루긴 하지만 사변적 논의가 아닌 인공지능과 로봇의 역할에 대한 분석을 주로 하고, 서술도 매끄럽기 때문에 독서 추천은 '일독을 권함'으로 한다.