조인철, ‘AI 생성물 표시 의무화법’ 발의 "AI혁신 신뢰는 ‘이용자 보호’에서 시작돼야" 이성오 기자 solee235@gwangnam.co.kr

2026년 01월 21일(수) 08:53

더불어민주당 조인철 의원(광주 서구갑, 국회 과학기술정보방송통신위원회)은 AI 생성물 표시제 도입과 허위·과장 AI 광고에 대한 신속 대응을 골자로 한 2건의 패키지 법안(정보통신망법·방미통위설치법 개정안)을 대표발의 했다고 21일 밝혔다..

딥페이크 등 AI 생성물이 정보통신망을 통해 빠르게 확산되며, 이용자가 무엇이 사실인지 판단하기 어려운 환경이 조성되고 있음에도 이를 플랫폼 등 유통 단계에서 규율할 제도적 장치가 미흡한 상황이다.

최근 기술의 고도화로 일반 이용자조차 진위를 구분하기 어려운 AI 생성물이 SNS와 플랫폼을 통해 무분별하게 유통되고 있다. 실제로 AI로 합성된 ‘가짜 경찰 출동’ 영상의 경우, 많은 이용자가 이를 실제 상황으로 오인해 소비하며 사회적 혼란을 야기한 바 있다.

이런 환경은 디지털 정보 판별 능력이 상대적으로 낮은 디지털 취약계층에게 치명적이다. 과학기술정보통신부의 ‘2023 디지털정보격차 실태조사’에 따르면, 고령층의 디지털 정보화 수준은 70.7%로 정보취약계층 중 가장 낮다.

유튜브와 SNS를 일상적으로 소비하는 아동과 고령층이 AI로 조작된 가짜 전문가 영상이나 딥페이크 영상 등에 노출될 경우, 이를 사실로 믿고 신체·재산상 피해를 입을 가능성이 매우 높다는 지적이다.

오는 1월 22일부터 시행되는 ‘AI 기본법’은 생성형 AI 결과물에 대한 고지·표시 의무를 규정하고 있으나, 이는 AI를 개발하거나 이를 활용해 제품·서비스를 제공하는 ‘AI 사업자’에 한정된 규율이다. 포털·플랫폼 등 유통·확산 단계에서의 표시 의무와 관리 책임은 사실상 입법 공백으로 남아 있어, 국민 보호에는 한계가 있다는 지적이다.

정보통신망법 개정안은 이러한 제도적 공백을 보완하기 위해 △(플랫폼) 플랫폼 사업자에게 게시자와 이용자의 AI 생성물 표시 유지·관리 의무 부과 △(게시자) AI 생성물을 직접 제작·편집해 게시하는 자에게 AI 생성물 표시 의무 부과 △(이용자) AI 생성물 표시의 임의 제거 및 훼손 금지 등의 내용을 골자로 한다.

또 국민의 생명·재산 피해 우려가 큰 경우, 식약처·공정위 등 관계 중앙행정기관의 요청 시 방송미디어통신위원회(방미통위)가 방송미디어통신심의위원회(방미심위)의 심의 이전이라도 플랫폼에 임시 시정조치를 요청할 수 있도록 했다. 플랫폼은 우선 조치를 이행하고, 이후 방심위의 심의 결과에 따라 차단을 확정하거나 원상복구하게 된다.

방미통위설치법 개정안은 AI를 활용한 허위·과장 광고에 대한 심의 지연 문제를 해소하기 위한 것이다. 의약품·화장품·의료기기 등 국민 건강과 직결되는 분야의 부당 광고를 서면심의 대상에 추가해 긴급 대응이 가능하도록 제도화했다.

조인철 의원은 “AI 기술 발전을 위축시키려는 것이 아닌, 혁신이 신뢰 속에서 지속될 수 있도록 이용자 보호의 기본 기준부터 마련하자는 것”이라며“디지털 취약계층은 물론 국민 모두가 딥페이크 위협에 무방비로 노출되지 않도록, 국회와 정부가 속도감 있게 제도 공백을 메워야 한다”라고 강조했다.