박성훈 의원, 「정보통신망법」 개정안 통해 해외 빅테크 책임 강화 기사 이해를 돕기위해 AI로 제작한 이미지.

[도시경제채널 = 윤문용 기자] AI 기술의 급격한 발전으로 허위 정보 생성, 편향성, 저작권 침해 등 다양한 사회적 문제가 발생하는 가운데, 이를 제도적으로 막기 위한 입법 움직임이 본격화됐다. 국민의힘 박성훈 의원은 10일 해외 빅테크 기업의 책임을 강화하고 AI 생성물 표시 의무를 명시한 「정보통신망법」 개정안을 발의하며, 국민의 생명과 재산을 보호하겠다는 의지를 밝혔다.

“AI 기술 발전의 그늘”

최근 챗GPT, 제미나이 등 생성형 AI가 만들어낸 허위 정보와 ‘할루시네이션(Hallucination)’ 현상으로 사회적 혼란이 커지고 있다. 실제로 AI가 생성한 허위 이미지가 증시 하락을 초래하거나, 존재하지 않는 사실을 사실처럼 답변해 사용자가 잘못된 정보를 신뢰하는 사례가 보고됐다. 또한 알고리즘 편향성으로 특정 집단이 차별을 겪거나, 심리 조작으로 극단적 선택을 유도하는 문제까지 드러나면서 AI의 윤리적 위험성이 부각되고 있다.

“법적·실무적 문제의 현실화”

저작권 침해와 표절 문제도 심각하다. 생성형 AI가 타인의 창작물을 무단 학습해 유사한 결과물을 내놓으면서 원저작자의 권리를 침해하는 사례가 빈번하다. 산업 현장에서도 AI 도입 실패가 이어지고 있다. 월마트가 인건비 절감을 위해 도입한 AI 로봇이 기대에 못 미쳐 계약을 종료한 사례가 대표적이다. 더 큰 문제는 사고 발생 시 책임 소재가 불분명하다는 점이다. 개발자, 사용자, 제조사 중 누구에게 법적 책임을 물을 수 있는지 논란이 계속되고 있다.

“박성훈 의원의 개정안 주요 내용”

개정안을 발의한 박성훈 의원. / 의원실

박성훈 의원은 이러한 문제를 해결하기 위해 해외 정보통신서비스 제공자의 국내 대리인 업무 범위를 확대하는 개정안을 발의했다. 기존에는 단순히 ‘자료 제출’에 국한됐던 대리인의 역할에 ‘불만 처리 및 피해 구제 접수·결과 통보’를 추가해, 해외 사업자가 책임을 회피하지 못하도록 했다. 또한 AI가 생성한 음향·이미지·영상에는 반드시 생성 사실을 표시하도록 의무화했으며, 이를 위반할 경우 최대 1,000만 원의 과태료를 부과하는 조항도 신설했다.

“전문분야 AI 서비스에 대한 경고 의무”

특히 의료·법률·금융 등 국민의 생명과 재산과 직결되는 전문분야에서는 AI 답변이 전문가의 판단을 대체할 수 없다는 점을 명확히 고지하도록 했다. 이는 작은 오류가 치명적인 사고로 이어질 수 있는 분야에서 국민이 AI를 맹신하지 않도록 하기 위한 장치다.

“국민 안전과 신뢰 확보 강조”

박 의원은 “AI 기술이 일상에 깊숙이 자리 잡았지만 피해 구제 제도는 기술 발전 속도를 따라가지 못하고 있다”며 “해외 빅테크 기업들이 한국 시장에서 혜택만 누리고 책임은 회피하는 관행을 근절하고, 국민들이 안전하고 신뢰할 수 있는 AI 이용 환경을 조성하겠다”고 밝혔다. 이번 개정안은 AI의 편리함 뒤에 숨은 위험을 제도적으로 관리하고, 국민의 생명과 재산을 보호하기 위한 중요한 첫걸음으로 평가된다.

[ⓒ 도시경제채널. 무단전재-재배포 금지]