‘M이코노미뉴스’에서 한 주간 놓치지 말아야 할 국내외 주요 IT 이슈 3가지를 선정, 요약해 보고자 합니다. 이번 주에는 미국 xAI의 인공지능 챗봇 ‘그록’이 오스트레일리아 본다이 비치에서 발생한 대규모 총격 사건에 오보를 퍼뜨렸다는 소식, 일본이 AI 분야에 한화 9조4000억원 규모 투자 검토를 발표했다는 소식, 유럽연합이 ‘AI Pact’ 발표 1주년을 맞아 3265개 기업 참여하며 조기규제 준수 가속화한다는 소식 등 세 가지를 단신으로 소개합니다.

1. AI 챗봇 ‘그록’, 濠 본다이 비치 총격 사건 허위 정보 논란

일론 머스크가 설립한 xAI의 인공지능 챗봇 ‘그록(Grok)’이 오스트레일리아 본다이 비치에서 발생한 대규모 총격 사건과 관련해 사실과 다른 정보를 반복적으로 퍼뜨린 것으로 드러났다. 프랑스24 보도에 따르면 연구진에 따르면 그록은 사건 당시 공격자를 제압해 영웅으로 평가받은 아흐메드 알 아흐메드(Ahmed al Ahmed)를 잘못 지칭하고, 일부 피해자가 부상을 조작했다는 근거 없는 주장을 내놓는 등 여러 오류를 범했다. 이는 급변하는 뉴스 상황에서 챗봇이 자신감 있게 잘못된 정보를 제시하는 문제를 다시 부각시켰다. 다만 이 언론사는 어느 연구진인지는 밝히지 않았다.

그록은 검증된 영상 자료를 ‘조작 가능성이 있는 오래된 바이럴 영상’이라고 잘못 설명하거나, 신뢰할 만한 언론 매체의 사진을 전혀 다른 인물로 오인하는 등 사실 확인 기능에서 심각한 한계를 드러냈다. 이에 대해 그록 사용자가 재검토를 요청한 뒤에야 일부 오류를 인정했다. AFP의 논평 요청에 대해 xAI는 ‘기존 언론의 거짓말’이라는 자동 응답만을 보낸 것으로 알려졌다. 전문가들은 이러한 사례가 AI 챗봇의 시각적·사실적 검증 능력에 대한 신뢰를 약화시키고, 온라인 플랫폼의 검열 축소와 맞물려 정보 혼란을 키우고 있다고 지적한다.

한편 시드니 총격 사건 이후 온라인에서는 생존자를 ‘위기 배우’라고 매도하는 허위 정보가 확산됐고, 일부 사용자는 AI로 조작된 이미지를 공유하며 음모론을 부추겼다. 팩트체킹 단체들은 AI가 이미지 분석 등에서 보조적 도구로 활용될 수는 있지만, 훈련된 인간 팩트체커의 역할을 대체할 수는 없다고 강조한다. AFP는 현재 26개 언어로 메타의 팩트체킹 프로그램과 협력하며 이러한 허위 정보 대응에 나서고 있다.

2. 일본, AI 분야에 1조엔 규모 투자 검토 발표

일본 정부가 인공지능(AI) 개발과 도입을 강화하기 위해 1조엔(한화 약 9조 4065억원) 규모의 투자 계획을 검토 중이라고 19일 밝혔다. 요미우리신문에 따르면 다카이치 사나에 총리는 총리실에서 열린 ‘AI 전략본부 회의’에서 일본이 AI 경쟁에서 뒤처지고 있다는 지적을 인정하며, 이번 투자가 국가 경쟁력 회복을 위한 핵심 전략이라고 강조했다. 정부는 이날 일본의 AI 정책 방향을 제시하는 첫 기본 계획 초안도 마련했다.

다카이치 총리는 일본이 보유한 고품질 데이터와 신뢰성 중심의 기술 문화가 글로벌 경쟁에서 강점이 될 수 있다고 언급하며, “이제 민관 협력을 통해 판세를 뒤집을 때”라고 말했다. 정부는 디지털청(Digital Agency)이 개발한 생성형 AI 플랫폼 ‘겐나이(Gennai)’를 2026년 5월부터 모든 정부 기관에 전면 도입해 공무원의 국회 답변 준비 등 행정 업무 효율화를 추진할 계획이다. 겐나이는 일본 디지털청이 개발한 정부 전용 생성형 AI 플랫폼으로, 일본 공무원들이 행정 업무를 효율적으로 처리하도록 돕기 위해 만들어진 시스템이다. 오픈AI 기술 기반이지만 일본 정부의 보안 인프라 안에서 운영되며, 일반 소비자용이 아닌 정부 업무 특화형 AI 도구다.

이번에 발표한 기본 계획에는 일본을 ‘개발과 활용 측면에서 세계에서 가장 AI 친화적인 국가’로 만들겠다는 목표가 담겼다. 이를 위해 AI 기술의 안전성을 평가하는 일본 AI 안전 연구소(Japan AI Safety Institute) 인력을 현재 30명에서 두 배로 확대하기로 했다. 내각은 이르면 이달 23일에 해당 계획을 공식 승인할 것으로 전망된다.

3. EU, AI Pact 1주년...3265개 기업 참여하며 조기규제 준수 가속화

유럽연합(EU) 집행위원회가 이달 15일 발표한 ‘AI Pact’ 1주년 성과 보고서에 따르면, AI Act 시행을 앞두고 기업들의 자발적 규제 준수 참여가 빠르게 확대되고 있다. AI Pact에는 현재 3265개 기업·기관이 참여하고 있으며, 이 가운데 230개 이상이 자발적 준수 계획을 제출해 실제 조치를 시행한 것으로 나타났다. 참여 기업은 매주 증가하고 있으며, EU는 이를 통해 AI Act의 초기 정착을 부드럽게 이끌겠다는 전략이다.

보고서에 따르면 참여 기업들은 AI 거버넌스 전략 수립, 고위험 AI 시스템 매핑, 직원 대상 AI 리터러시 강화 등 핵심 약속을 중심으로 조기 준수 준비를 진행하고 있다. 절반 이상의 기업은 법적 요구보다 앞서 인간 감독 강화, 위험 완화 조치 개선, AI 생성 콘텐츠 투명성 확보 등 추가 조치를 도입했다. EU AI Office가 주관한 7개의 인터랙티브 웨비나는 3만6000회 이상 시청되며 기업들의 이해도 제고에 기여했고, 기업 피드백은 AI Act 단일 정보 플랫폼과 서비스 데스크 구축에도 반영됐다.

또 105개 기업이 1년간의 준수 보고서를 제출했으며, 나머지 기업들도 가입 후 12개월 내 제출할 예정이다. 참여 기업의 63%는 EU 기반이며 산업 분포는 소프트웨어·SaaS, IT 서비스, 클라우드·통신, 산업·에너지 분야가 중심을 이룬다. EU는 AI 리터러시 모범 사례 저장소 구축과 함께 대기업이 스타트업·중소기업(SME)을 지원하는 협력 체계를 강화하며, AI 생태계 전반의 역량을 끌어올리는 데 주력하고 있다.