챗GPT 개발사 오픈AI의 최고과학자가 인공지능(AI)의 급속한 발전에 따른 위험성을 경고하며 업계 차원의 개발 속도 조절을 촉구했다. 그러나 같은 날 오픈AI가 별도로 공개한 보고서에서는 AI를 활용한 연구 가속화를 강조해 내부적으로 상반된 메시지가 나오면서 엇박자를 냈다.

야쿠프 파호츠키 오픈AI 최고과학자는 6일(현지시간) 오픈AI 홈페이지에 게재한 ‘외계의 지성’(An Alien Mind)이라는 제목의 기고문에서 “기계 지능이 계속해서 급속도로 발전할 경우 초래될 결과에 아무도 대비하지 않고 있다”고 우려했다.

파호츠키 최고과학자는 현대 AI가 인간에 의해 정밀하게 ‘설계되는(designed)’ 것이라기보다 생물처럼 ‘재배되는(grown)’ 것에 가깝다고 설명했다. AI가 복잡해질수록 인간이 내부 작동 원리를 완전히 이해하고 통제하기 어려워질 수 있다는 의미다.

특히 AI의 안전성을 감시하기 위해 활용되는 ‘생각의 연쇄’(CoT) 모니터링 등 기존 안전장치도 모델 성능이 고도화되면서 효과가 점차 떨어지고 있다고 지적했다.

AI 개발을 지속해야 위험에 대응할 방어 체계도 구축할 수 있다는 업계 일각의 주장에 대해서는 “방어체계 구축이 무모한 행동을 정당화하는 구실로 사용돼서는 안 된다”고 반박했다.

그는 AI가 인간에게 위협이 되는 행동을 거부하도록 만드는 이른바 ‘정렬’ 문제를 충분히 해결한 연구소는 아직 없다며 “공동의 안전장치가 마련될 때까지 자발적인 속도 조절이 일반화하기를 기대하고 희망한다”고 밝혔다.

이어 AI 개발과 안전 문제를 둘러싼 국제적 협력이 각국 정부의 최우선 과제가 돼야 한다고 강조했다.

샘 올트먼 오픈AI 최고경영자(CEO)도 파호츠키 최고과학자의 기고문을 엑스(X·옛 트위터)에 공유하며 “중요한 글”이라고 평가했다. 그동안 AI 개발 속도 조절론에 회의적인 입장을 보여왔던 올트먼 CEO 역시 최근에는 속도 조절 필요성에 무게를 싣는 모습을 보이고 있다.

다만 오픈AI가 같은 날 별도로 발표한 ‘연구 가속화’ 보고서에서는 AI를 이용한 연구개발의 속도를 더욱 높이겠다는 구상이 제시됐다.

오픈AI는 자체적으로 AI를 개선하고 코딩 작업을 수행하는 ‘자동화 AI 연구 인턴’ 목표를 달성했으며, 이를 발전시켜 2028년 3월까지 ‘자동화 AI 연구원’을 개발하겠다는 새로운 목표를 내놨다.

보고서에 따르면 하루 8시간 근무를 기준으로 인간 연구원이 하루 동안 수행하는 작업에 대해 AI 에이전트는 3.1일에 해당하는 작업량을 수행할 수 있는 수준에 도달했다.

오픈AI는 이 같은 자동화 AI 연구가 AI 안전의 핵심 과제인 ‘정렬’ 문제 해결을 오히려 가속할 수 있다고 주장했다. AI 개발 속도를 늦춰야 한다는 파호츠키 최고과학자의 주장과는 다소 엇갈리는 대목이다.

다만 보고서는 빠른 ‘반복적 자가개선’(RSI)을 반드시 추진해야 한다는 의미는 아니라며 선을 그었다. 오픈AI는 “이를 추진할지 여부와 그 방식은 민주적 선택에 달려 있어야 한다”고 밝혔다.

AI의 급속한 발전에 따른 위험성을 경고하면서도 동시에 AI를 활용한 연구 자동화와 성능 향상을 추진하는 오픈AI의 두 메시지가 맞물리면서 향후 AI 개발 속도와 안전장치를 둘러싼 논의가 더욱 커질 것으로 보인다.