지난 5월 국내에 출간된 이스라엘 학자 유발 하라리(41)의 ‘호모 데우스’ 말미에는 빅데이터가 쥐락펴락하는 암울한 미래상에 대한 이야기가 기다랗게 이어진다. 해당 챕터의 제목은 ‘호모 사피엔스 지배력을 잃다’. 여기에 등장하는 내용을 개괄하면 다음과 같다.

미래에는 빅데이터에 기반을 둔 수많은 알고리즘이 세상의 조종간을 잡는다. 알고리즘이 내놓는 결과가 지고의 가치가 되고, 인간 중심의 세계관은 사라진다. 그렇다면 인류의 운명은 어떻게 될 것인가. “우리는 엔지니어에서 칩으로, 그런 다음에는 데이터로 전락할 것이고, 결국 세차게 흐르는 강물에 빠진 흙덩이처럼 데이터 급류에 휩쓸려 흩어질 것이다.”

호모 데우스를 읽으며 하라리의 전망이 뜬구름 잡는 얘기처럼 느껴서 눙치고 넘어간 독자라면 ‘대량살상수학무기’를 일독하는 게 좋을 듯하다. 호모 데우스가 빅데이터가 구현할 디스토피아를 그렸다면 이 책은 지금 이 순간에도 전개되고 있는 빅데이터의 농간을 다룬다.

저자 캐시 오닐(45)은 미국의 여성 수학자다. 교수 생활을 하다가 2007년 수학과 현실의 접점을 체감하고자 유명 헤지펀드에 입사했다. 하지만 금융위기가 들이닥치면서 그는 수학과 금융이 결탁한 파괴적인 힘에 환멸을 느끼게 된다. “금융 세상의 붕괴는 한때 나의 질서정연한 도피처였던 수학이 세상사에 깊이 얽혀 있을 뿐만 아니라 많은 문제를 부채질하고 있음을 분명하게 드러냈다. 주택시장의 붕괴, 주요 금융기관들의 파산, 실업률의 급등. 이 모든 문제가 마법의 공식을 휘두르던 수학자들의 원조와 사주로 발생한 재앙이었다.”

저자는 고도의 수학에 젖줄을 대고 있는 빅데이터가 세상의 불평등을 조장한다고 판단했다. 빅데이터를 ‘대량살상수학무기(Weapons of Math Destruction)’라고 명명하면서 빅데이터에 이 단어를 줄인 ‘WMD’라는 별칭까지 붙인 건 이런 이유에서다. WMD는 “불투명하고 의문을 제기하는 것을 용납하지 않으며 터무니없이 무책임하다”는 게 특징이다.

저자가 전한 WMD가 만든 살풍경은 한두 개가 아니다. WMD는 개발자가 아니면 요령부득인 알고리즘을 바탕으로 학생들의 학업 성취도를 주요 잣대로 내세워 실력 있는 교사를 교단에서 퇴출시켰다. 가난한 사람에게 감당하기 힘든 고금리 대출 상품을 제시했다. 저자는 예상한다. 훗날 WMD는 무고한 시민을 잠재적 범죄자로 만들어버릴 수 있다고.

많은 내용이 담겼지만, 책의 백미는 끄트머리에 자리 잡은 챕터 ‘표적이 된 시민들’이다. 도마에 올리는 건 페이스북이나 구글 같은 글로벌 IT 기업. 이들 회사는 마음만 먹으면 당장이라도 사용자의 정치적 판단을 좌지우지하면서 여론을 움직일 수 있다.

지금 당장 스마트폰에서 페이스북에 접속해보자. 당신의 뉴스피드 상단에 올라오는 게시물은 지금도 알고리즘의 영향을 받고 있다. 이들 게시물은 사용자의 정치적 판단에 영향을 주는 것은 물론이고 감정 상태까지 바꿔놓는다. ‘긍정적인’ 내용의 게시물이 많이 등장하면 사용자의 기분은 좋아진다. 저자는 이런 얘기를 늘어놓은 뒤 섬뜩한 질문을 던진다. “만약 페이스북의 알고리즘이 선거일에 사람들의 감정을 조작한다면 어떻게 될까.”

구글 검색 결과 역시 마찬가지다. 선거를 앞두고 관련 정보를 검색했을 때 스마트폰 화면에 특정 정치 집단에 기우뚱한 결과가 먼저 나온다면 유권자 표심은 흔들릴 수밖에 없다.

물론 이 책은 페이스북이나 구글의 알고리즘을 WMD라고 규정하진 않는다. 하지만 저자는 이들 회사에서 “(빅데이터가) 남용될 가능성은 아주 크다”고 우려한다. “코드의 세상에서, 그리고 으리으리한 방화벽 너머에서 이미 드라마가 펼쳐지고 있다”고 말하기도 한다.

독자에 따라서는 빅데이터의 위험성을 지나치게 부각시킨다고 생각할 것이다. 하지만 분명한 건 누가 됐든 저자의 얘기를 듣노라면 마음 한구석이 심란해질 것이라는 점이다. 그가 제시하는 다음과 같은 예방책은 결코 허투루 들어선 안 될 이 책의 핵심이다.

“데이터 처리 과정은 과거를 코드화할 뿐, 미래를 창조하지 않는다. 미래를 창조하려면 도덕적 상상력이 필요하다. 그런 능력은 오직 인간만이 가지고 있다. 우리는 더 나은 가치를 알고리즘에 명백히 포함시키고, 우리의 윤리적 지표를 따르는 빅데이터 모형을 창조해야 한다. 그렇게 하려면 가끔은 이익보다 공정성을 우선시해야 한다.”

박지훈 기자 lucidfall@kmib.co.kr