‘M이코노미뉴스’에서 한 주간 놓치지 말아야 할 국내외 주요 IT 이슈 3가지를 선정, 요약해 보고자 합니다. 이번 주에는 편하다고 믿고 쓰는 ‘생성형 AI’가 오히려 보안에 위협이 될 수 있다는 소식, 영국 히드로공항을 포함한 유럽 여러 공항에 사이버 공격을 한 용의자가 체포됐다는 소식, 생성형 AI가 많은 것을 만들어내지만 실속은 없다는 소식 등 세 가지를 단신으로 소개합니다.

1. 생성형 AI, 구축·배포 이전에 철저한 보안조치 선행돼야

‘생성형 AI’의 급격한 확산으로 수많은 기업들은 기업의 경영에 AI를 적용시키는 것이 효율적이라고 생각하고 있다. 하지만 아직 AI를 구축하고 확산하는데 기본적인 보안은 미흡하다는 것을 제대로 인지하지 못하고 있다. 하지만 적절한 보안 조치가 없다면 AI는 방어력을 강화하기는커녕 오히려 해커가 더 쉽게 기업 내부망에 문을 열어주는 취약점을 만들어낼 수 있다.

블리핑컴퓨터의 보도에 따르면 전 세계 기술리더의 69%가 기업의 경쟁력 유지를 위해 ‘에이전트 AI’가 필요하다고 답했다. 반면에 세계경제포럼(WEF)에 따르면, 일정규모 이상 기업의 66%가, 중소기업의 69%가 향후 12개월 동안 AI가 사이버 보안에 상당한 영향을 미칠 것으로 예상하지만, AI 배포 전 보안을 평가하는 프로세스를 구축한 기업은 37%에 불과했다.

보안이 확실하지 않은채 AI를 구축할 때 주요 위협은 ‘AI 기반 피싱 및 사기’가 있다. WEF는 기업의 47%가 AI 기반 사이버 공격을 최대 우려 사항으로 꼽았다. 두 번째는 ‘모델 조작’이다. ‘모리스 II’ 등 AI 웜 바이러스가 AI 비서 모델에 악성 메시지를 삽입, 이를 하이재킹해 데이터를 유출하거나 스팸을 유포할 수 있다. 세 번째는 ‘딥페이크 기반 사기’로 범죄자들은 ​​AI가 생성한 음성, 이미지, 비디오를 이용해 사기를 저지르는 사례가 점점 더 늘고 있다.

블리핑컴퓨터는 “생성적 AI는 기업의 비즈니스 운영에 더욱 깊이 자리 잡을 것이지만, 시스템 보안을 소홀이 한다면 모래 위에 마천루를 짓는 것과 같다”고 말했다. 이어 “기업은 통합적이고 선제적인 보안 조치와 솔루션 도입만이 랜섬웨어 등에 위협 노출을 심화시키지 않고 AI의 잠재력을 활용할 수 있는 방안”이라고 강조했다.

2. 영국 히드로 공항 해킹 혐의자, 영국에서 체포돼

최근 며칠 동안 영국 런던 히드로 공항을 포함한 여러 유럽 공항에 사이버 공격을 했다는 혐의를 받는 40대 남성 용의자가 영국 남부에서 체포됐다고 영국 국가범죄수사국이 24일 밝혔다.

일본 요미우리 신문에 따르면 이번 사이버 공격은 이달 20일에 독일 슈네펠트에 있는 베를린 브란덴부르크 공항의 터미널에서 체크인 카운터가 체크인 및 탑승 시스템을 표적으로 발생했다. 이 공격으로 영국을 포함한 유럽 주요 공항의 항공 교통이 중단됐다. 영국 국가범죄수사국은 용의자가 컴퓨터 오용과 관련된 범죄 혐의로 웨스트 서섹스에 구금됐다가 조건부 보석으로 석방됐다고 밝혔다.

영국 국가범죄수사청(National Crime Agency, NCA) 내 국가 사이버범죄 부서 폴 포스터 책임자는 “이번 체포는 긍정적인 조치이지만, 이 사건에 대한 조사는 초기 단계”라며 “사이버 범죄는 지속적인 전 세계적 위협으로, 영국에도 심각한 혼란을 초래하고 있다”고 밝혔다.

이번 사이버 공격은 영국 런던 히스로공항에 탑승 시스템을 제공하는 콜린스 에어로스페이스의 소프트웨어에 영향을 미쳤다. 콜린스 에어로스페이스는 승객들이 체크인하고, 탑승권과 가방 태그를 인쇄하며, 수하물을 발송하는 소프트웨어를 제공하고 있다. 영국은 사이버 공격의 배후가 누구인지는 확정짓지는 못했지만, 전문가들은 사이버 공격이 해커, 범죄 조직 또는 국가 행위자로 밝혀질 수 있다고 말했다. 27개국으로 구성된 유럽연합(EU)의 행정부인 유럽연합 집행위원회는 항공 안전과 항공 교통 통제에 영향을 미치지 않았다고 밝혔다.

3. 생성형 AI, ‘생산’은 하지만 ‘실체’는 없는 ‘워크슬롭’까지

생성형 AI가 노동 시장에 실질적인 영향을 미치고 있지만, 그 결과는 기대와는 다르게 ‘워크슬롭(workslop)’이라는 신조어로 나타나고 있다. ‘워크슬롭’이란 하버드 비즈니스 리뷰와 스탠퍼드 연구진이 언급한 단어로 “생산성 있는 작업처럼 보이지만 실제로는 무의미하고 실질적인 내용이 없는 AI 생성 결과물”을 뜻한다.

미국 CNN의 최근 보도에 따르면 워크슬롭은 겉보기에는 완성된 문서나 코드처럼 보이지만, 실제로는 맥락이 부족하거나 불완전한 콘텐츠로 인해 다른 직원들이 이를 수정하거나 재작업해야 하는 부담을 초래하고 있다. 미국 직장인의 40%가 최근 워크슬롭을 경험한 것으로 나타났으며, 이는 시간 낭비와 업무 중복을 유발한다. 워크슬롭은 단순한 불편을 넘어 기업에 실질적인 비용을 발생시키기까지 한다. 직원들은 평균적으로 워크슬롭 처리에 두 시간을 소비하며, 이는 월 186달러(한화 약 26만2260원)의 숨은 비용으로 환산된다. 대기업의 경우 연간 수백만 달러의 생산성 손실로 이어질 수 있다.

미국 MIT 연구에 따르면 생성형 AI를 도입한 기업은 AI 도입이 기업의 매출 증가로 이어지지 않으며, 오히려 손실을 초래할 수도 있다. 하지만 기업들은 이 같은 우려에도 생성형 AI를 맹목적으로 채택하고 있으며, 이는 기술에 대한 과도한 의존과 비효율적인 결과를 낳고 있다. AI가 실제로 업무를 대체하지 못하면서도 인간에게 책임을 전가하는 구조가 형성되는 셈이다.

CNN은 “AI가 일자리를 대체할 것이라는 위협 속에서, 사무직 노동자들은 불완전한 AI 결과물을 처리하며 과로에 시달리고 있다”고 말했다. 이어 “기업은 AI 도입을 주주와 시장에 보여주기 위한 수단으로 활용하지만, 그 결과물은 여전히 사실 확인을 위한 사람의 확인이 필요하다”며 “AI는 아직 인간을 대체할 수 없고 그 사용에는 신중함과 책임이 요구된다”고 지적했다.