“딥페이크 범람 막아야” 조인철 의원, ‘AI 생성물 표시 의무화법’ 발의

[도시경제채널 = 유주영 기자] AI 기술의 고도화로 진위 구분이 어려운 콘텐츠가 범람하는 가운데, 더불어민주당 조인철 의원(광주 서구갑)이 ‘AI 생성물 표시 의무화법’을 21일 대표 발의했다. 이번 법안은 정보통신망을 통해 유통되는 AI 생성물에 대해 표시·관리 책임을 플랫폼과 게시자에게 부여하고, 허위·과장 광고에 대한 신속 대응 체계를 마련하는 것이 핵심이다.

조 의원은 “AI 혁신의 신뢰는 이용자 보호라는 기본에서 시작돼야 한다”며, AI 기본법이 개발자 책임에 초점을 맞췄다면 이번 개정안은 유통 단계에서의 공백을 메우는 보완 입법이라고 강조했다. 실제로 오는 1월 22일부터 시행되는 AI 기본법은 AI 사업자에게만 표시 의무를 부과하고 있어, 포털·SNS 등 플랫폼 단계에서는 사실상 규율이 없는 상태다.

최근 AI로 합성된 ‘가짜 경찰 출동’ 영상이 SNS에서 확산되며 사회적 혼란을 야기한 사례처럼, 딥페이크 콘텐츠는 특히 디지털 정보 판별 능력이 낮은 고령층과 아동에게 치명적이다. 과기정통부의 2023년 조사에 따르면 고령층의 디지털 정보화 수준은 70.7%로 가장 낮은 수준이며, 이들이 AI 조작 콘텐츠를 사실로 오인할 경우 신체·재산 피해로 이어질 수 있다는 지적이 나온다.

조 의원이 발의한 '정보통신망법 개정안'은 △게시자에게 AI 생성물 표시 의무 부과 △플랫폼 사업자에게 표시 유지·관리 책임 부여 △이용자의 표시 훼손 금지 등을 담고 있다. 이를 통해 이용자가 콘텐츠의 진위를 판단할 최소한의 기준을 갖도록 하고, 플랫폼이 책임 있는 유통 환경을 조성하도록 유도한다.

또한 '방미통위 설치법 개정안'은 국민 생명·재산 피해 우려가 큰 경우, 관계기관 요청 시 플랫폼에 심의 전 임시조치를 요청할 수 있도록 했다. 의약품·화장품·의료기기 등 건강과 직결되는 AI 허위 광고에 대해서는 서면심의 제도를 활용해 신속 대응이 가능하도록 했다. 조 의원은 “AI 산업 발전과 이용자 보호가 균형을 이루도록 입법을 지속 추진하겠다”고 밝혔다.

[저작권자ⓒ 도시경제채널. 무단전재-재배포 금지]