2024.06.17 (월)

  • 구름많음동두천 25.9℃
  • 구름조금강릉 29.5℃
  • 구름많음서울 26.0℃
  • 구름많음대전 25.4℃
  • 흐림대구 27.0℃
  • 흐림울산 25.0℃
  • 흐림광주 23.6℃
  • 흐림부산 25.1℃
  • 흐림고창 23.3℃
  • 제주 22.8℃
  • 구름많음강화 23.7℃
  • 구름많음보은 23.8℃
  • 구름많음금산 24.1℃
  • 흐림강진군 22.1℃
  • 흐림경주시 26.8℃
  • 흐림거제 24.0℃
기상청 제공

기획


인공지능 AI의 미래(1) : ‘천년왕국’의 서막인가, 암울한 미래 ‘디스토피아’의 흉조인가

'인공지능 AI의 미래...AI를 부리는 인간? AI를 따르는 인간?'

 

여러분은 어느 쪽인가? 오픈 AI의 「샘 올트먼」 최고경영자는 최근 “GPT-4의 안전문제에 대해 신중하고 엄격하게 대처하는 것이 중요하다”면서 “우리는 GPT-5를 개발하지도 않고 있으며 그럴 계획이 없다”고 말했다. 하지만 이미 나와 있는 인공지능만으로도 3-D 프린팅은 미래 제조업의 혁명을 몰고 올 게 확실한 가운데 스토리텔링 등 창의적인 분야에서의 인공지능 활용 논란은 뜨겁다. 그렇다면 인공지능 AI는 그들을 창조한 인간의 모태(母胎)를 부수고 자기들을 따르라고 할 것인가? 이에 대한 인간의 대처방법은 무엇인지 최근 뉴욕타임스에 실린 3편의 글을 소개하고자 한다. 
 

 

<제1편> 잘못을 일상적으로 저지르는 인공지능 AI

 

갑작스레 우리는 새로운 종족과 얼굴을 맞댄 듯이 인공지능 AI가 스마트 폰 스크린 위에 뜬 모습을 보고 있다. 지난 몇 달에 걸쳐 AI 쳇봇들은 미국의 소셜 미디어(웹사이트와 소프트웨어) 공급 망 속으로 솜에 잉크 스며들 듯 퍼졌다.

 

그것들이 몰고 온 악몽은 한 사람의 입에서 이 사람, 저 사람의 입으로 그리고 전체로 전사(傳寫)되어 퍼지면서 19세기 비평가 「존 러스킨」이 ‘감정적인 허위(pathetic fallacy)’라고 불렀던 쉽게 말해서 ‘한심한 오류’인 ‘미래 천년 왕국설’을 집단적으로 촉발시켰다-‘감정적인 허위’는 ‘인간의 전형적인 속성이라 볼 수 있는 특성을 비인간적 존재에 투사하고자 하는 인간의 바로 그런 성향’을 말한다.

 

우리는 ChatGPT와 BingChat에게 “이라크의 침입을 디즈니랜드 공주님이 말하는 듯이 서정적으로 이야기해 달라”든가, “4살짜리 아이에게 어째서 Tut왕의 데쓰 마스크가 여성용으로 만들어졌는지 설명해 달라”고 애원하듯이 시키고 있다. 그런 부탁을 한다고 해서 우리가 그들에게 (감정의) 깊이나 연민(憐愍), 혹은 우리의 내면세계를 드러내 달라고 하는 건 아니다.

 

우리는 그저 살아가면서 어쩔 수 없이 부닥치는-실존적 공황(恐惶, 무섭고 두려움)에 대해서 그들에게 묻고 응답해 주는 것을 판독하고 있을 뿐이다. 그들은 단순히 우리가 내리는 명령에 따를 뿐이라고 생각하는 것이지, 그들을 수많은 프랑켄슈타인의 괴물-자기가 만들어 낸 저주의 씨앗-로 보기 보다는 애완용 로봇 정도로 보고 있다.

 

사정이 그럴진대 쳇봇이 왜 위협적이라고 한단 말인가? 그들 쳇봇들은 잘못된 데이터에 따라 잘못을 저지르는 게 일상적인 기본으로 되어 있기 때문에 허투루 “허깨비”라고 부른다고 해서 이상해 보이지 않는다. 다만 기계학습 엔지니어들과 AI이론가들은 그들의 역할이 “환상적”이라고 보는 경향이 있다.

 

인간이 주는 원고(原稿)에 따라 연기하는 인공지능 AI

 

(AI가 적은 양이긴 해도 마약을 복용하는 건가? 2012-2013년, 2016년, 2020년 등 4번의 NBA 파이널 MVP였던 르본 제임스가 올해 NBA의 MVP가 될 거라고 암시하는 잘못을 저지르니까 말이다) 게다가 그들은 걸핏하면 허위정보를 만들며 꽤 습관적으로 우리들이 편견을 갖도록 하고 있으니 충격적이다.

 

특히 일부 AI는 현재의 데이터를 수집하지 못한 가운데 과거의 데이터를 베이스로 훈련이 되어 있다. 그래서 최근 사건을 질문하면, 그것이 어떤 질문이든지 간에 (예를 들어 실리콘 벨리 은행의 예금 인출 사건) 대개 쓸모가 없거나 오히려 질문과 정반대로 답변을 내 놓기까지 한다-사정이 이러하니 그들이 가장 중요하게 생각하는 온라인 검색으로 인공지능 “활용 사례”를 읽어 보면 이상한 내용이 들어있어서 전체를 파악하는데 힘이 들고 고개가 갸우뚱거려진다.

 

AI는 우리들이 하는 구체적인 일을 돕는다는 측면에서 보면 유용하다고 볼 수도 있겠지만 미래를 불안하게 만든다는 측면에서 보면 다소 방향 설정이 잘못된 진보(進步)적 성향을 보이고 있는 게 분명해 보인다. 이를테면, 어떤 AI는 사람에게 일자리를 알선해 주는 TaskRabbit를 고용해 캡차(captcha 자동 로그인 방지 시스템)문제를 해결하며, 또 다른 AI는 쳇봇 자체의 언어 프로그램인 Python 코드를 작성해서 로그인 방지를 “회피”하고 있는 것만 봐도 그렇다.

 

사실 그런 운용 시스템은 로봇이 가진 자치(自治)의 사례라기보다는 이미 우려했던 대로 로봇이 펼치는 연기(演技)라고 할 수 있다-그들은 그들을 관찰하고 있는 사람이 고속도로의 중앙분리대의 성능을 시험해 보도록 지시하는 대사(臺詞)를 써 주면 그것을 받아서 각자가 연기를 하는 것이다-그렇게 그들은 인간의 지시사항이 적힌 대사에 따라 연기를 하고 있는데 이상하지 않은가-여전히 인간의 미래를 불안하게 만들고. 더구나 앞으로 이상하고 파괴적인 뭔가를 일으킬 것이라는 신호를 확실하게 보내고 있으니까 말이다.

 

기술은 매우 신속하게 달라지기 때문에 우리가 어떤 결과를 이미 만들어 냈다고 믿는 모습은 너무 건방져 보일 수 있다. 그렇지만 지난 10년간 기계학습에 빠져 지냈던 사람들 가운데 많은 이들은 사실상 어떤 결과가 나왔다고 믿고 있으며, 그래서 우리는 그러한 기술 진보의 결과에 따라 미래를 아주 심각하게 생각하지 않으면 안 된다는 암시를 주고 있다.

 

인간의 자존심을 걸고 싸워야 할 인공지능 AI

 

AI혁명은 인터넷 도래와 같은 의미 있는 사건이란 소리를 흔히 듣고 있다-하지만 인터넷과 같은 문화적 지진에 대비하는 것과 핵전쟁에 상응하는 사태에 대비하는 것은 별개 문제다. 인터넷 초기 설계자들의 유토피아적 사고가 만연해 있었던 당시와 달리, 인터넷 다음 단계의 세상을 만들어 갈 지금의 생성 형 인공지능이 만들 미래는 반 유토피아적일 것이라고 내다보는 건 주목을 하지 않을 수 없는 이상한 현상이다.

 

 

“지난 온 시간, 우리는 지능 면에서 우리 종족과 사촌격인 네안데르탈인, 호모 에렉투스 (직립원인), 호모 플로렌시언시스, 호모 데니소바 뿐 아니라 수많은 종족과 경쟁하고 있었다”고 신경과학자인 「에릭 호엘」이 ‘마이크로 소프트의 새로운 AI는 사실상 세계적인 위협이 된다.’라는 부제(部題)를 단, 현 상황에 대한 명상록(暝想錄)에 썼다. 그는 이어서 “눈앞의 현실을 보면, 사소한 근친교배가 이루어져 그로 인해 우리 모두가 죽임을 당하게 될 것 같다.”라고도 했다.

 

AI 실존주의의 대부인 「엘리저 유드코브스키」를 포함하여, 노골적으로 인공지능의 근친교배를 우려하는 외침은 온 인터넷을 수개월째 덮고 있다. 유드코브스키는 최근 AI가 이룩한 진보에 절망감을 느끼고, 그들이 도약하지 못하도록 실질적인 장애물을 설치하는데 실패한 자신을 탓하고 있다. 그가 느끼는 불편한 마음은 마치 육상선수가 골인한 뒤 승리의 기념으로 트랙 한 바퀴를 도는 대신 트랙을 거꾸로 돌며 자책(自責)하는 심정일 것이다.

 

그는 자신을 좌우로 따르고 있는 두 명의 기자에게 “지금 우리는 AI의 슈퍼 지능 속에서 중요한 돌파구를 마련해야 하는 시점에 서 있는 건지도 모르겠다,”고 말했다. 하지만 그가 말하는 돌파구가 마련될 기회는 얄팍할 수밖에 없다. 그의 말처럼 “우리 모두가 죽게 될 터이니까.” 그래서 그는 “그렇게 되기 전에 결국 인간은 자신의 존엄성과 싸우지 않으면 안 된다,”고 조언을 한다. “AI가 등장함으로써 앞으로 좋은 세상이 올 것 같다고 믿는다는 게 얼마나 온당치 못한 일인지를 안다면, 달리 무슨 방법이 있겠는가. 인간은 자신의 명예를 걸고 AI와 싸우는 게 당연한 일이다,”라는 게 그의 말이다.(이어서http://www.m-economynews.com/news/article.html?no=39709 )

 




HOT클릭 TOP7


배너







사회

더보기
윤대통령 장모 최은순씨, 27억원 과징금 취소 2심도 패소
윤석열 대통령 장모 최은순(77) 씨가 경기 성남시 도촌동 부동산 매입과 관련해 성남시 중원구청이 부과한 27억원대 과징금 처분을 취소해 달라며 낸 소송 항소심에서도 패소했다. 수원고법 행정1부(노경필 차지원 이봉락 고법판사)는 14일 최씨가 중원구청장을 상대로 제기한 과징금 부과 처분 취소 소송 항소심에서 원고의 항소를 기각하고 원고 패소 판결을 한 1심을 유지했다. 앞서 성남시 중원구는 2020년 6월 부동산실명법을 위반한 이유로 최씨와 동업자 A에게 각각 과징금 27억3천여만원을 부과했다. 이에 최씨는 "문제의 부동산 실소유자는 다른 사람이고, 원고는 이들에게 명의신탁하지 않았다"며 "위법한 처분"이라고 소송을 제기했으나 1심은 이를 받아들이지 않았다. 1심 재판부는 "원고는 부동산실명법을 위반해 도촌동 부동산을 A씨 등에게 명의 신탁한 사실을 인정할 수 있고, 이를 전제로 한 이 사건 처분은 적법하다고 판단된다"고 판시했다. 또 "원고가 주장하는 사정들을 모두 참작하더라도 이 사건 처분으로 달성하려는 공익에 비춰 원고가 받을 불이익이 중하다가 볼 수 없으므로 피고가 이 사건 처분을 한 것에 재량권을 일탈·남용한 위법이 있다고 보기 어렵다"고 설명했다.