>>> 1편에 이어서
AI로 인한 거대 회사 탄생
「샘 울트먼」은 온화한 성품을 가진 다소 보통사람 같기도 하지만 가장 인상적인 새로운 쳇봇을 만든 오픈 AI의 최고 경영자다. 그런 그 조차 공개적으로 “우리 모두 죽을 수도 있는 위험은 인간이 피할 수 없는 실존적 문제”라면서 “앞으로 그것을 염두에 두고 인공지능을 운영하겠노라,”고 약속했다.
그는 또, “인공지능의 비상벨을 울린 유드코브스키는 당연히 노벨 평화상을 받을 만한 가치가 있는 일을 한 사람,”일 것이라고 하였다. 그는 또, “최근에 나온 AI는 앞으로 경제적 권한을 쥔 막강한 힘이 되어 우리가 지금까지 보아온대로 많은 사람을 부자로 만들어 줄 것,”이라고 했다. 기억하실지 모르지만 7년 전인 2015년에 그는 이런 농담을 던졌다. “AI는 아마도 세상을 종말로 이끌지도 모르지만 그 사이에 대단한 회사들이 생겨나게 될 거야”라고.
그로부터 1년 후, 울트먼은 뉴요커 프로필(New Yorker profile, 뉴요커 잡지의 인물소개)에서 앞으로의 세계를 살풍경하게 그린 자신의 풍자적인 태도에서 한 발 뒤로 물러서서 “나는 솔직히 생존을 위한 준비를 하고 있다,”고 자백했다-그런데 그가 말하는 생존이란 실험실에서 고의로 유출된 슈퍼버그라든지, 핵전쟁, 혹은 우리를 공격하는 어떤 AI같은 만일의 사태를 말하는데-“지금 내가 고민하는 문제는 내 친구들이 술만 마시면 세상이 어떻게 끝날 것인지를 이야기한다는 것을 듣는 일”이라고 했다.
그러면서 “나는 그런 이야기에 대해 너무 많은 생각을 하지 않으려고 하긴 하지만 이미 이스라엘 방위군으로부터 나온 총, 금, 이소다이드 칼륨, 항생제, 배터리, 음료수, 가스 마스크 등 비상생존 물품을 준비하고 있고 여차하면 비행기로 날아가서 살 수 있는 빅수르(Big Sur)에 넓은 땅을 가지고 있다”고 말했다.
10명중 1명, 인간을 부릴 인공지능 AI 출현 가능성 점쳐
그가 하는 말들은 인공지능관련 일을 하는 사람들 사이에서 보편적인 견해가 아닐 수도 있다. 그렇다고 해서 그런 견해가 보기 드문 것도 아니다. 인용이 많이 되고 있는 2022년의 한 조사에서 AI전문가들에게 다음과 같은 질문을 던졌다.
“당신은 인간의 멸종이나 멸종과 거의 마찬가지라고 할 수 있는 영원히 혹은 심각하게 인간 종족이 가지고 있는 권한을 빼앗는 고도(高度)로 발전된 AI 시스템이 미래에 나타날 개연성을 어느 정도로 보고 있는가?”
이에 대한 답변의 중간 값은 10%다-다시 말해서 10개의 답변 가운데 1개의 답변이 100% 그럴 거라는 대답을 한 것이다. 절반가까이는 그럴 가능성이 높다고 했다. 그 조사와는 또 다른 어떤 조사에서는 현재 기계학습에 종사하는 이들을 대상으로 물었는데 답변자의 3분의 1가까이가 인공지능이 세상을 더 나쁘게 만들 것이라고 믿고 있었다. 이런 조사 결과를 본 필자의 동료 「에즈라 크라인」은 말하기를, “어리둥절해, 어째서 인공지능이 세상을 더 나쁘게 만들 것이라면서 그런 것을 만드는 일을 하겠다고 나섰더란 말인가?”라며 탄식했다.
그의 의문에 답변은 ‘위험이 자꾸 커지고 있는 상황에서 그런 위험을 무시했다가는 더 큰 위험을 초래하기 십상,’이라는 답변을 포함해 수많은 대답이 나올 가능성이 있다. 문제는 세상을 위험하게 할 것이라는 답변을 하면서도 답변자들은 AI가 신학(神學)적이고 신화(神話)적인 기준(reference points)에 의해 존재하게 될 것이라고 믿는 그들 스스로의 생각은 굉장히 의미심장한 일이라고 한다는 점이다.
더구나 어떤 사람들에게는 인공지능이 초래할 종말론적 가능성이 어쩌면, 일종의 도전을 해 보도록 유인하는 요소가 될 수 있을 것이다-이들은 설문조사 질문에 대한 답변에서 자화자찬을 하고 있긴 하지만 그래도 ‘감정적 오류(pathetic fallacy)’에서 벗어나 기술 개발 이후에 찾아오는 실존적인 허무감을 약간 느끼면서도 지구 종말의 예언을 빗나가게 하겠다는 갈망(渴望)하는 마음을 가지고 있을지 모르겠다.
인공지능 AI가 초래할 암울한 미래, 디스토피아를 피해 갈 수 있나?
최근 몇 해 동안 인공지능의 반 유토피아를 주장한 격변론자(激變論者)들의 생각을 비판하는 글들이 정기적으로 실렸지만 비주류 기후행동주의자들과 맞서서 현실 안주를 주장하는 중도주의자들과 그들을 후원하는 흰 수염의 노인들의 글에 의해 균형을 이루어지는 현상이 두드러졌다.
맞다. 지구의 온난화가 진행되고 있다. 그 점은 그들도 인정한다. 그렇지만 온난화는 그대로 둘 수 없는 우리 인류가 도전해야 할 대표적인 세계의 집단 현상(現狀)이다. 솔직히 말해서 온난화에 관한 거의 모든 대화가 다소 과장되게 이루어지고 있는 면도 사실이지만 말이다.
영역이 다르긴 하지만 정치판도(版圖)을 들여다보면 온난화와 유사한 어떤 운명론(運命論)같은 게 존재하며 가끔은 인큐베이터에 들어있는 태어나기 전의 온라인도 만날 수 있다.
온라인에는 임박한 생태계 파괴, 인터넷의 한 구석을 차지하고 있는 생명의 대멸종, 저출산율과 저출산율 속에서의 “잉여 인간들”, 세계적인 뱅크 런(bank run) 사태, 그리고 여기에서는 명목화폐의 위기, 저기에서는 초 인플레이션과 세계적인 부채 위기, 여기에서는 정상적으로 일을 할 수 없게 만드는 영구적인 Covid전염병의 창궐, 저기에서는 봉쇄정책이 영구적으로 일어나고, 백신 부작용으로 인한 심장(心臟)재앙 등등 격변론자들로 하여금 여러 가지 두려움을 추론하고 머리 땋듯이 미래의 상황을 소설처럼 엮게 만들 수 있는 말과 글이 난무한다.
인공지능으로 세상이 반 유토피아가 될 것이라는 격변론자의 사고방식은 그렇지 않다는 사람의 사고에 비해 다소 고립적(孤立的)일 수 있겠지만 생각 자체가 기이(奇異)하다고 할 순 없다.
만약 그들과 생각을 달리한다면 요즘 세상에서는 누구나 그런 사고방식을 차단하고 문화(文化)적 흐름에서 분리해 낼 수 있다. 더구나 인공지능에 의한 ‘미래 천년왕국설’이 꽤 보편적인 문법이 된 세상이다. 하지만 기술적 진보를 이끄는 고위 성직자(聖職者)들과 자칭 우리의 용감한 새로운 세상의 설계자라고 부르는 자들도 인공지능이 몰고 올 반 유토피아에 대한 두려움을 피해 가려고 해도 피해 갈 방법은 없지 않을까.
