독자들에게 주눅 들지 말고 읽어보라는 저자의 미끼인 걸까. 어려운 과학 용어에 철학적 메시지까지 갈마드는 책이지만 첫머리에 등장하는 건 짤막한 동화다. 이야기는 참새들의 대화로 시작된다.

“부엉이 한 마리가 있다고 생각해보세요. 삶이 얼마나 편해질까요?” “맞아요. 부엉이는 우리 어르신과 새끼들도 돌봐줄 거예요” “부엉이가 우리 대신 고양이가 나타나는 걸 감시할 수도 있겠네요.”

그런데 외눈박이 참새 한 마리가 반기를 든다. “이것은 재앙이 될 겁니다. 부엉이를 길들이는 법부터 생각해야 해요.” 하지만 동료들은 경고를 흘려들은 채 부엉이 알을 찾아 나선다.

이 동화의 뒷이야기는 적혀 있지 않다. 하지만 동화가 끝난 뒤 이어지는 인공지능(AI)이 만들 암울한 미래상 스토리를 좇다보면 동화의 결말을 어렵잖게 짐작하게 된다. 참새들은 부엉이에 장악당하고, 부엉이는 둥지의 주인 자리를 꿰찼을 것이다. 외눈박이 참새의 경고를 무시한 대가다. 동화에서 참새는 인간을, 부엉이는 인간을 뛰어넘는 두뇌를 갖춘 AI를 가리킨다.

영국 옥스퍼드대 철학과 교수 닉 보스트롬(44)의 ‘슈퍼인텔리전스’가 드디어 국내에 출간됐다. AI가 인간 지능을 초월한 ‘초지능(Superintelligence)’의 존재로 거듭났을 때 펼쳐질 섬뜩한 미래 모습을 그린 예언서다. 쉽지 않은 내용인데도 2014년 출간돼 영미권에서만 13만부 넘게 팔렸다고 한다.

AI를 둘러싼 다양한 갈래의 이야기가 혈관처럼 뻗어나가는데, 독자의 관심은 다음 세 가지 질문으로 수렴할 듯하다. ①초지능을 갖춘 AI는 언제쯤 등장할까 ②초지능이 등장한 뒤 인류는 재앙을 맞을 것인가 ③인류는 초지능의 세계에 맞서기 위해 어떤 준비를 해야 하는가.

먼저 첫 번째 질문. 전문가 상당수는 30∼40년 안에 인간 수준의 AI 개발을 예상하고 있다. 문제는 그 다음이다. 인간 수준의 AI는 자가발전을 통해 순식간에 초지능으로 ‘도약’할 가능성이 높다. 보스트롬 교수는 초지능 출현 전후의 상황을 이렇게 예상한다. ‘단지 한두 시간 만에 세계가 급진적으로 탈바꿈하고, 인류가 사유(思惟)하는 존재의 정점의 자리에서 밀려나게 되는 것이 비현실적인 공상처럼 느껴질 수도 있다. …(하지만) 도약이 일어난다면, 그것은 폭발적인 과정일 가능성이 크다.’

초지능의 세계는 유토피아일까. 이 질문에 대한 대답은 회의적이다. 기계가 인간을 속이고 유린하는 상황도 간과할 수 없다. 가령 ‘인간을 행복하게 하는 것’이 ‘목표’인 AI가 있더라도, 인간 뇌의 쾌락 중추에 전극을 이식하는 왜곡된 방식으로 목표를 실현하면서 인간을 장악할 수 있어서다.

많은 이들은 공상과학 영화에나 나올 법한 이야기라면서 시시덕거릴 듯하다. 하지만 이 책을 다 읽으면 초지능의 문제를 더 이상 허투루 여기긴 힘들 것이다. AI가 핵무기나 전염병보다 위험할 수 있음을, 인류의 재앙이 AI 탓에 창졸간에 닥칠 수도 있다는 사실을 되새기게 될 것이다.

책의 골격을 이루는 메시지는 간명하다. AI의 발전을 예의주시하면서 전략을 세워야 한다는 것이다. 보스트롬 교수는 AI 문제를 대하는 인류의 태도를 ‘폭탄을 가지고 노는 어린 아이들’과 같다고 걱정하면서 이렇게 적었다.

‘언제 폭발이 일어날지에 대해서는 거의 예측이 불가능하지만, 만약 그 장치를 우리 귀에 가까이 가져다대면 비록 희미하게나마 똑딱거리는 소리를 들을 수 있을 것이다. …우리가 맞닥뜨리고 있는 도전에 대처하기 위해서는 우리의 인성, 즉 우리의 근본, 상식 그리고 푸근한 품위 같은 성향에 어느 정도 의지해야 한다. …모든 인적 자원을 총동원해야 한다.’

박지훈 기자 lucidfall@kmib.co.kr