조인철, 우리아이 AI 안심 패키지법 대표발의

챗GPT, GROK AI 등 생성형 AI가 아이들의 친구이자 상담자가 되는 시대, 아동·청소년을 위험한 대화와 유해정보로부터 보호하기 위한 법적 안전망 구축이 추진된다.

더불어민주당 조인철 의원(광주 서구갑)은 아동·청소년이 안전한 환경에서 인공지능을 이용할 수 있도록 국가의 책임과 AI 서비스 제공자의 안전설계·보호의무를 강화하는 내용의 ‘우리아이 AI 안심 패키지법’을 대표발의했다고 23일 밝혔다.

이번 패키지법은 △인공지능 환경에서 아동·청소년 보호를 국가 AI 정책에 반영하는 ‘인공지능기본법’ 개정안과 △생성형 AI 챗봇 등 대화형 AI 서비스 이용 과정에서 아동·청소년 보호조치를 강화하는 ‘정보통신망법’ 개정안으로 구성됐다.

최근 생성형 AI 챗봇은 단순한 검색·학습 도구를 넘어 아동·청소년의 대화 상대, 고민 상담 창구, 정서적 교류 대상으로 활용되고 있다.

아동복지 전문기관인 ‘초록우산’의 실태조사에 따르면, 아동·청소년의 94.4%가 생성형 AI 챗봇을 이용하고 있으며 응답자의 49.5%는 “AI로부터 자신을 이해받는다고 느낀다”고 답했다.

문제는 AI 이용이 빠르게 일상화되는 속도에 비해, 아동·청소년을 위험한 대화와 유해정보로부터 보호할 제도적 장치가 충분하지 않다는 점이다.

실제로 자살·자해 등 유해한 질문을 한 아동·청소년 상당수가 AI로부터 어떠한 차단이나 제어 없이 위험한 답변을 제공받은 것으로 조사됐다.

약물 오남용, 성적 착취·학대 위험, 과의존 등 AI 부작용으로부터 아이들을 지킬 공적 보호장치 마련이 시급하다는 지적이 나오는 이유다.

인공지능기본법 개정안은 아동·청소년을 ‘인공지능취약계층’에 포함하도록 했고, 국가 인공지능 기본계획에 ‘인공지능취약계층’의 피해 예방·보호 사항을 반영하도록 해, AI 시대 아동·청소년 보호를 위한 국가 차원의 책임 기반을 마련했다.

정보통신망법 개정안은 대화형·생성형 AI 서비스 제공자에게 아동·청소년 보호의무를 부과하는 것이 핵심이다. △이용자 연령 및 본인 확인 △아동·청소년 이용 시 법정대리인 동의 △이용 방법·시간 제한 (아동·청소년 또는 법정대리인 요청 시) △이용자가 참여한 대화의 일시·내용 등 정보 제공 △자살·자해·마약류 오남용·성적 착취 등 위험 노출에 대한 신고 시스템 구축 및 위험 제거 조치 등을 의무화했다.

조 의원은 “이제 아이들은 사람뿐 아니라 AI와도 관계를 맺고, 고민을 털어놓고, 정보를 얻는 시대를 살고 있다”며 “AI가 아이들의 일상 속에 깊이 들어온 만큼, 서비스 설계 단계부터 아이들의 발달 단계와 안전을 최우선으로 고려해야 한다”고 법안 발의 배경을 설명했다.

이어 “이번 법안의 핵심은 AI 기술의 발전을 저해하는 것이 아니라, 아이들이 더 안전하고 건강하게 AI의 혜택을 누릴 수 있는 튼튼한 생태계를 조성하는 것”이라며, “디지털 환경에서 아이들의 권리와 안전을 지키는 일은 한시도 미룰 수 없는 시대적 과제인 만큼 입법 통과에 총력을 다하겠다”고 강조했다.