안녕하세요, 신진상입니다. 오늘은 책 이야기와 음악 이야기를 같이 들려드리겠습니다. 제가 오늘 소개 드릴 책은 스탠포드 대학교 법정보학과 제리 카플란 교수의 ‘인간은 필요 없다’라는 책입니다. 이 책은 컴퓨터 인공지능에 푹 빠진 서울대 지원자 학생 때문에 읽었습니다. 서울대 자소서를 지도할 때 읽지 않은 책에 대해서 제가 조언을 하는 것은 제 양심이 허락하지 않아서요. 남과 다른 차별화 전략 즉 창의성은 결국 그 책을 읽고 이해한 상태에서 가능하지, 책을 안 읽거나 혹은 인터넷 서평 정도 읽은 상태에서는 불가능하다는 게 제 지론입니다. 그래서 제가 도움을 주고자 하는 학생들이 꼽은 인생의 책 3권만큼은 아무리 바빠도 꼭 읽으려고 합니다. 올해는 알파고 때문인지 인공지능과 관련한 책들을 저도 많이 읽고 학생들도 많이 읽었습니다. 이 책과 함께 김대식 교수님의 ‘인간 대 기계’도 올해 지원자들이 많이 쓴 책입니다.

“우리가 만날 미래는 터미네이터인가, 스타 트렉인가?”

올해 쏟아진 수많은 인공지능 관련책들처럼 이 책 역시 인공지능의 발전이 끼칠 노동 문제와 사회적 경제적 위험을 경고하고 있습니다. 많은 책들이 스타 트렉 같은 유토피아보다는 터미네이터 같은 디스토피아 쪽으로 독자들의 생각을 몰고 가고 있지요. 이 책 역시 비슷한 관점에 서 있습니다. 저자는 인공지능이 미래에 상당히 많은 직업을 대체하는 과정에서 생기는 부작용으로 부의 불평등과 도덕성을 들고 있습니다.  

“발전된 기술은 완전히 새로운 방식으로 노동을 자본으로 대체하고, 그렇게 새로 창출되는 부는 부유한 사람들에게 불공평하게 많이 배분된다.”

미래의 정책 입안자들은 높은 실업률만 걱정해야 하는 것이 아니라 높아지는 지니 계수, 소득 불평등도 고민을 많이 해야 하는 것이지요. 그는 미래의 갈등은 인간 대 인간의 갈등은 사라지고 인간 대 자산의 투쟁이 될 것이라고 예언합니다. ‘1%의 모든 것’이라는 드라마도 있듯이 현재는 1대 99의 사회지만 앞으로는 0대 100의 사회가 올 수도 있다는 게 그의 주장입니다.

부의 불평등보다 더 걱정스러운 것이 바로 도덕성입니다. 그에 따르면 인공지능의 가장 큰 문제는 사회적 맥락이 없다는 점입니다. 대개의 인공지능 시스템은 부작용에 대해서는 전혀 고려할 필요 없이 오로지 단일 목표만을 성취하도록 설계되었기 때문이라는 것이지요. 목표를 이루는 게 중요하지, 그 과정에서 공정성이란 인간의 직관을 지킬 이유가 없다는 것입니다. 그는 다음과 같은 예를 듭니다.

“어떤 사람이 최신 다목적 로봇을 구입해서 로봇에게 세계 제 1의 체스 선수가 되어 보라고 지시했다고 가정하자. 주인은 아마 그 로봇이 세계 챔피언들의 경기 방식을 공부하고, 다른 선수들과 경기를 벌이면서 훈련하고, 여러 대회에 참가할 것으로 기대할 터이다. 그러나 로봇은 그보다 더 믿을만한 전략을 찾을지 모른다. 경쟁자들이 경기 참여를 포기하도록 선수 가족을 위협하고, 우수한 선수들을 경기장으로 태워 오는 항공기가 도착하지 못하도록 하고, 우승이라는 목표에 방해가 될 만한 사람은 누구든 무력화시키는 식으로 말이다,”

그렇다면 해결책은 무엇일까요? 컴퓨터에게 윤리를 가르치면 되지 않을까요? 인공지능이 공익을 실현하면 인공지능에게 인센티브를 주는 방법도 가능하지 않을까요?

저자는 그 방법에 대해서 확실한 대안을 제시해주지는 않습니다. 제가 보기에는 쉽지 않을 전망인데 그 이유는 도덕과 윤리가 아리스토텔레스의 지적처럼 배움과 교육으로 습득되기보다는 타고난 측면이 크고 자신의 의지에 의해 스스로 훈련을 해야 터득할 수 있기 때문입니다. 비도적인 우리가 도덕적이 되라고 인공지능에게 명령을 한다면 인공지능이 웃을지도 모르지요. 저자의 말처럼 우리는 우리가 사육사이고 인공지능이 사육 당하는 처지인 줄 알고 있는데 알고 보니 그 반대라는 사실을 언젠가 깨달을 수도 있습니다. 이 책의 마지막은 그래서 제게 섬뜩하면서 우울한 화두를 던집니다.

“지구는 햇빛과 고독만이 존재하는 유리 사육장에, 모두의 이익을 위해 우리가 맞아들였던 기계 경호원들이 가끔씩 끼어들어 모두 순조롭게 돌아가는지 살피는, 벽과 담장 없는 동물원이 될지 모른다.”

이제부터 긴 사족. 저는 인공지능에게 음악을 가르치면 이 문제가 해결되지 않을까? 라는  생각을 해봅니다. 이 책의 에필로그에 보면 음악 이야기가 나옵니다. 책에서 저자는 한 음악가의 말을 인용합니다. “음악은 모든 아름다움의 스승이다.” 멋진 은유죠. 그렇죠. AI도 아름다움을 만들기는 하겠지만 음악만큼은 인간이 만든 아름다움을 못 따라가겠죠. 베토벤 모차르트 비틀즈 그리고 카펜터스….

하지만 요즘 음악들 보면 그런 것 같지도 않아요. 요즘 노래들을 잘 모르는 제가 이유 없이 폄하하는 건 아닌가 하는 의구심이 들기는 하지만 TV에서 나오는 노래들을 가끔 듣다보면 이런 음악들은 얼마든지 기계가 만들 수 있지 않을까라는 생각이 듭니다. 왜 다른 건 다 진화하고 진보하는데 음악은 거꾸로 퇴보할까? 나만의 느낌이고 편견일까?

그런데 저만의 느낌이 아닌 것 같습니다. 예전에 외고에 다니는 제자가 제 이 주제로 소논문을 쓴 적이 있었습니다. 70~80년대 흘러간 노래들과 아이돌 최신 음악 중에 어떤 노래가 더 듣기 좋은가라는 주제로 같은 학교 친구들을 대상으로 설문조사를 했습니다. 그 결과가 또렷이 기억되는데 그들이 자주 듣는 아이돌 음악보다 난생 처음 듣는 70~80 음악이 더 좋다는 반응이 65%로 압도적이었거든요. 

기계가 아름다운 음악을 만들 수 없는 이유가 뭘까요? 아도르노가 한 말인데 그 이유는 인간의 감정과 가장 직접적으로 연결된 예술이 바로 음악이기 때문이죠. 음악은 귀가 아니라 마음 허트로 듣는다는 게 맞거든요. 인간의 여러 감정이 음악과 연결이 되어 있습니다만,  중에서도 이 감정 바로 슬픔, 기계는 행진곡은 만들 수 있겠지만 슬픔, 특히 실연의 아픔을 다룬 노래는 못 만들 것 같아요.

노래에서 어떤 슬픔의 이데아가 있다면, 제가 오늘 소개해드리는 이 노래라고 자신 있게 말씀 드릴 수 있습니다. 저는 이 노래를 들을 때마다, 기계는 죽어도 (기계가 죽는다는 게 말이 안 되기는 하지만)이 노래는 못 만들 거라는 생각을 합니다. 아마 가사도 못 쓸 것 같아요. 노래 가사 멜로디 드럼 기타 특히 리드 보컬의 목소리 모든 게 슬픕니다. 소개해 드릴 노래는 60년대 후반과 70년대 초반 미국에서 활동했던 락 그룹 마운틴의 ‘낸티컷 슬레이라이드(Nantuket Sleighride)’라는 노래입니다.

낸티컷은 미국의 한 도시명인데 휴양지로 19세기에는 우리나라의 울산항처럼 포경선들의 근거지였다고 합니다. 고래하면 에이허브 선장과 모비 딕을 쓴 허먼 멜빌이 떠오르시죠? 멜빌이 포경선을 타고 태평양을 건넜던 건 유명한 이야기죠. 멜빌이 그 포경선에서 책을 한 권 읽었는데 그 책이 바로 19세기 초반 일어났던 난파된 포경선 선원들의 이야기(회고록)였습니다. 그 책이 바로 모비딕의 영감을 준 책이었습니다. 그 포경선 이름이 에섹스호였습니다. 이들은 태평양 한 가운데서 실제 거대 향유 고래 떼를 만나 작살을 던졌는데 그게 마침 새끼였어요. 죽은 새끼가 떠오를 것을 기대했던 선원들 앞에 나타난 건 20 톤이 넘는 거대 암컷 향유고래였습니다. 그리고 이 고래는 세 번 자신의 몸으로 포경선과 정면 충돌해서 배를 박살냈습니다. 모비 딕과 많이 비슷하죠. 21명의 선원들은 보트 세 척에 나눠 타고 각기 흩어졌는데 여기서부터 진짜 비극이 시작됩니다.

워낙 갑작스럽게 일어난 사고라 식량 싣고 할 여유가 없었나 봐요. 통조림 약간 정도였던 게 다였던 듯 합니다. 구조되기를 기다리며 망망대해에 떠 있는 그런 상황이었는데 아마 한 달 정도 시간이 지났을 겁니다. 선원들이 굶주림 때문에 자연사한 다른 동료 선원의 시신에 손을 대기 시작했던 듯 합니다. 회고록에 보면 결국 시체를 뜯어 먹고 자신들의 오줌을 받아먹으며 버텼던 것 같습니다. 그러다가 자연사한 시체도 다 사라지고 이제 살아남은 사람들만 남게 되었죠. 3달째였을 거에요. 그래서 그들은 결국 제비 뽑기를 합니다. 그 배에는 선장과 선장의 조카 오웬 코웬이 타고 있었습니다. 그리고 어린 선장의 조카가 제비 뽑기에서 당첨이 됩니다. 즉 희생양이 된 거죠. 그 순간 선장이 자기가 대신 죽겠다고 나섭니다. 회고록에 보면 두 번의 제비 뽑기를 해야했는데, 두 번째 제비 뽑기는 그 희생양을 죽이는 역할을 맡아야 했습니다. 그 사람 역시 못 하겠다고 합니다. 결국 조카는 자신의 운명을 받아들이고 자신의 삼촌과 자기를 죽여야 할 다른 선원을 설득합니다. 조카는 결국 죽고 자신의 몸으로 정확히 10일 동안 다른 선원들에게 식량을 제공한 뒤, 선원 8명이 구조될 때까지 살신성인을 했습니다. 선장의 회고록에 따르면 선장은 조카의 시신에 손을 대지 않았다고 하네요. 노래는 이 오웬 코펜이라는 선원의 끔찍한 비극을 다루고 있는데, 그가 죽기 직전에 회상을 하는 내용입니다.

사랑하는 여인의 이름(로빈 마리로 추정되는)을 부르면서 시작되는 노래는 도입부는 고요히 바다를 항해하는 포경선 에섹스가 연상됩니다. 중반부에 갑자기 격렬해질 때는 향유고래가 달려드는 장면이 눈을 감으면 펼쳐집니다. 막간에 다시 고요해질 때는 조난 당하기 전 배 위에서 있었던 일상들이 전개됩니다. 술 먹고 낮잠을 자는 선원, 작살을 예리하게 가는 선원 등등…. 그리고 다음의 후렴구는 죽기 직전 오웬 코핀이 사랑하는 여인에게 하는 마지막 고백인 듯 합니다.     

“And I know you're the last true love I'll ever meet.”

이런 슬픈 멜로디와 가사를 과연 인공지능이 만들 수 있을까요? 이런 극한의 고통과 자신의 몸을 바쳐 다른 선원들을 살리려는 인간의 희생을 인공지능이 이해할 수 있을까요? 죽기 직전 사랑하는 여인의 심장 소리가 들리는 그곳으로 달려가고 싶은 한 남자의 마음에 동정을 표시할 수 있을까요? 망망대해에서 넉 달을 표류하는 동안 육지만을 상상하며 버티는 인간의 희망과 의지에 인공지능이 공감할 수 있을까요?

그 길이 쉽지는 않겠지만 저는 인공지능에게 이런 슬픈 음악을 많이 들려주고 인간의 슬픔과 아픔에 공감을 하고 이해를 하도록 노력해야 한다고 생각합니다. 그래서 아이작 아시모프의 소설 ‘바이센테니얼 맨’의 주인공 앤드류처럼 착한 인조인간으로 스스로 진화하도록 하면 어떨까요? 그렇게 되면 인류가 매트릭스나 터미네이터를 만날 걱정을 덜 해도 되지 않을까요? 

https://youtu.be/q0JrV86EKCs

PS : 영어 공부에도 도움이 되시라고 가사도 올려 드리겠습니다.

Goodbye, little Robin-Marie
Don't try following me
Don't cry, little Robin-Marie
'Cause you know I'm coming home soon
My ships' leaving on a three-year tour
The next tide will take us from shore
Windlaced, gather in sail and spray
On a search for the mighty sperm whale
Fly your willow branches
Wrap your body round my soul
Lay down your reeds and drums on my soft sheets
There are years behind us reaching
To the place where hearts are beating
And I know you're the last true love I'll ever meet
Starbuck's sharpening his harpoon
The black man's playing his tune
An old salt's sleeping his watch away
He'll be drunk again before noon
Three years sailing on bended knee
We found no whales in the sea
Don't cry, little Robin-Marie
'Cause we'll be in sight of land soon

※에듀포스트에 실린 외부 필진 칼럼은 본지의 편집방향과 다를 수 있습니다.