청소년의 생성형 AI 이용이 빠르게 확산되고 있는 가운데, 초등학생에게서도 생성형 AI를 통한 성인용 영상물 이용 경험이 확인됐지만 정부는 구체적인 이용 플랫폼과 관련 피해 현황조차 제대로 파악하지 않고 있다는 지적이 제기됐다.

국회 성평등가족위원회 소속 더불어민주당 박지혜 의원(의정부시갑)이 성평등가족부로부터 제출받은 자료에 따르면, 청소년의 생성형 AI 이용률은 49.9%로 드러났다.

2024년 「청소년 매체 이용 및 유해환경 실태조사」에 따르면 초등학생(4~6학년)의 27.7%가 생성형 AI 이용 경험이 있다고 응답했다. 특히 생성형 AI를 통한 성인용 영상물 이용 경험이 있다고 응답한 비율은 ▲초등학생 1.4% ▲중학생 1.6% ▲고등학생 2.6%로 나타났다.

그러나 이러한 조사에도 불구하고, 정부는 청소년들이 어떤 생성형 AI 플랫폼이나 서비스를 통해 성인용 영상물은 접했는지조차 파악하지 않고 있는 것으로 확인됐다.

생성형 AI와 관련한 청소년의 피해 현황 역시 별도로 관리되지 않고 있었다. 성평등가족부는 미디어 과의존 청소년을 대상으로 상담 서비스를 제공하고 있지만, 생성형 AI 관련 피해·상담 현황은 별도로 구분해 집계하지 않고 있다고 밝혔다.

생성형 AI에 대한 청소년 유해매체물 지정은 현재까지 한 건도 없는 것으로 드러났다. 성평등가족부는 개인이 생성한 콘텐츠는 외부 모니터링이 어렵고 생성되는 내용이 달라 객관적인 유해성 판단 기준을 적용하기 어렵다고 설명했다.

한편 연령 확인 절차의 실효성도 점검이 필요한 것으로 나타났다. 생성형 AI를 통한 성인용 영상물 이용 경험이 있는 청소년 282명 가운데 56.2%는 이용 당시 나이 확인을 했다고 응답했다.

박지혜 의원은 “생성형 AI는 이미 청소년의 학습과 일상에 폭넓게 활용되고 있다”라며 “청소년이 생성형 AI를 안전하게 활용할 수 있도록 실효성 있는 연령 확인과 청소년 보호 기능 등 AI 환경에 맞는 보호체계를 마련해야 한다”라고 강조했다.