인공지능(AI) 기본법이 지난달 7월 21일 시행되면서 정부는 이와 함께 ‘대한민국 AI 윤리원칙’을 만들고 있다. 윤리원칙의 최종 제정을 앞두고 산업계·학계·시민사회가 참여하는 공개 토론회가 열렸다. 에이전트형 AI와 피지컬 AI 등 신기술이 빠르게 확산하며 AI가 사회 전반의 핵심 인프라로 자리 잡은 만큼, 윤리 논의 역시 기존 규범 중심 접근을 넘어 혁신을 뒷받침하는 실질적 기준으로 재정립해야 한다는 목소리가 높게 제기됐다.

◇‘AI 윤리원칙’ 정부 초안, 3대 가치·7대 원칙 전면 개편

과학기술정보통신부와 정보통신정책연구원(KISDI)은 14일 서울 프레지던트호텔에서 ‘모두를 위한 AI, 함께 만들어 가는 AI 윤리원칙’을 주제로 대토론회를 열었다. 산업계, 시민단체, 학계 전문가, 일반 시민 등 70여명이 참석했다. 정부는 지난해 말부터 AI 기본법 제27조에 따라 AI 안전성과 신뢰성을 확보하기 위한 자율 규범인 윤리원칙을 마련해 왔다. 2020년 제정된 ‘AI 윤리기준’을 계승하되, 최근 기술 발전과 정책 환경 변화를 반영해 전면 개편하는 작업이다.

이날 공개된 윤리원칙안은 △인간의 존엄성 △사회의 공공선 △인류의 지속가능성 등 3대 가치와 △인간중심성 △프라이버시 보호 △공정성·포용성 △책임성 △안전성 △신뢰성 △투명성 등 7대 원칙으로 구성됐다. 과기정통부와 KISDI는 올해 5월 1차 초안을 공개한 뒤 산업계·시민사회·학계·관계부처·일반 시민으로부터 총 116건의 서면 의견을 받아 이번 수정안을 마련했다.

◇AI 윤리원칙, 규제 아닌 혁신의 기반 되어야

이상욱 한양대 인공지능학과 교수는 기조발제에서 AI 기술 변화 속도가 빨라지면서 개발·활용 과정에서의 판단이 점점 복잡해지고 있다고 진단했다. 이 교수는 “AI 윤리원칙은 혁신을 제약하는 규범이 아니라 바람직한 AI 개발·활용을 돕는 조력자이자 촉진자가 되어야 한다”며 윤리의 역할을 새롭게 정의해야 한다고 강조했다. 변순용 서울교육대 교수도 “AI가 사회의 기본 인프라가 된 만큼 위험한 대상으로만 보는 인식에서 벗어나야 한다”고 지적했다.

시민사회는 윤리 논의의 틀 자체를 바꿔야 한다고 주장했다. 홍윤희 사단법인 무의 이사장은 “AI 개발과 활용 과정에서 다양한 시민이 참여할 수 있어야 한다”며 “기존의 수혜자 중심 접근에서 벗어나 시민을 권리를 가진 주체로 봐야 한다”고 말했다. 소비자단체와 시민단체 참석자들도 윤리원칙이 실제 현장에서 작동하기 위해서는 시민 참여 구조가 제도적으로 마련돼야 한다고 강조했다.

산업계는 윤리원칙이 새로운 규제로 작용할 가능성을 경계했다. 김경훈 카카오 AI 세이프티 리더는 “윤리적 권고와 법적 의무가 혼동되지 않도록 해야 한다”고 강조하며, 윤리원칙이 기업 활동을 제약하는 규범으로 오해되지 않도록 명확한 구분이 필요하다고 말했다. 김현주 한국AI·소프트웨어산업협회(KOSA) 본부장은 “에이전트형 AI, 피지컬 AI 등 새로운 기술이 빠르게 등장하는 상황에서 입법과 기술 발전 간 시차를 메우는 역할로 윤리가 중요하다”고 덧붙였다.

정부는 이번 토론회에서 제기된 의견을 종합적으로 검토해 윤리원칙안을 보완한 뒤 이달 중 최종 제정·공표할 계획이다. 이진수 과기정통부 인공지능정책기획관은 “대한민국 AI 윤리원칙은 AI 기본사회를 위해 모두가 함께 지켜야 할 기준”이라며 “정부·기업·시민 등 모든 주체가 각자의 위치에서 실천할 수 있도록 적극 지원하겠다”고 밝혔다.

AI가 사회·경제·산업 전반에 깊숙이 자리 잡은 가운데, 윤리원칙이 기술 발전을 억제하는 규제가 아닌 혁신을 가능하게 하는 기반으로 작동할 수 있을지 주목된다. 정부는 윤리원칙 제정 이후에도 지속적인 의견 수렴과 보완을 통해 AI 시대에 필요한 사회적 기준을 발전시켜 나간다는 방침을 밝혔다.