AI 이용자 보호 협의회 출범…생성형 AI 시대 ‘안전한 사용 기준’ 논의 본격화
방송미디어통신위원회와 정보통신정책연구원이 생성형 AI 서비스 확산에 대응하기 위해 ‘AI 서비스 이용자 보호 민관협의회’ 2기를 출범했다. 이번 협의회는 특히 아동·청소년 이용자 보호 문제를 핵심 의제로 삼고, AI 환경 속에서 발생할 수 있는 유해 정보 노출과 과몰입 문제 등을 집중적으로 논의할 예정이라고 밝혔다.
최근 생성형 AI 기술은 놀라운 속도로 일상 속에 확산되고 있다. 텍스트와 이미지, 영상, 음성 생성까지 가능한 AI 서비스가 등장하면서 업무와 교육, 검색, 콘텐츠 제작 방식까지 빠르게 바뀌고 있다. 하지만 동시에 기술 발전 속도에 비해 사회적 안전장치와 제도 논의는 충분히 따라가지 못하고 있다는 우려도 커지는 분위기다.
특히 생성형 AI는 단순 정보를 검색하는 수준을 넘어 스스로 새로운 콘텐츠를 만들어낼 수 있다는 점에서 기존 인터넷 플랫폼과는 다른 위험 요소를 가진다는 분석이 나온다. 잘못 설계되거나 관리되지 않을 경우 불법 정보와 허위 정보, 선정적 콘텐츠를 자동 생성할 가능성도 존재하기 때문이다.
이번 협의회에서 아동·청소년 보호 문제가 핵심 의제로 언급된 이유도 여기에 있다. 어린 이용자들은 AI가 제공하는 정보의 신뢰성과 위험성을 스스로 판단하기 어려울 수 있기 때문이다. 특히 생성형 AI와 대화형 서비스가 인간처럼 자연스럽게 반응하는 수준까지 발전하면서 과몰입과 정서 의존 문제도 새로운 사회 이슈로 떠오르고 있다.
최근 교육계와 학부모들 사이에서는 “아이들이 AI를 친구처럼 여기기 시작했다”는 우려도 나온다. 실제 일부 해외 연구에서는 청소년들이 AI 챗봇과 장시간 대화를 나누거나 정서적 의존 관계를 형성할 가능성에 대한 경고도 이어지고 있다.
AI가 잘못된 정보를 사실처럼 제시하거나 극단적 콘텐츠를 추천할 위험 역시 중요한 문제로 지적된다. 기존 SNS 알고리즘 문제가 “추천 시스템” 중심이었다면, 생성형 AI는 아예 새로운 콘텐츠를 실시간으로 만들어낸다는 점에서 영향력이 더 커질 수 있다는 것이다.
특히 최근에는 딥페이크와 AI 음성 합성 기술 문제도 빠르게 확산되고 있다. 정치인 발언 조작 영상이나 유명인 합성 콘텐츠, 가짜 뉴스 생산 가능성이 커지면서 사회적 신뢰 체계 자체를 흔들 수 있다는 우려도 나온다.
전문가들은 앞으로 AI 규제 핵심은 단순 기술 제한보다 “위험 관리 구조”에 있을 가능성이 크다고 설명한다. AI 개발 자체를 막는 것은 현실적으로 어렵고, 오히려 혁신 경쟁에서 뒤처질 위험도 있기 때문이다. 대신 어떤 분야에서 어떤 기준으로 안전성을 확보할 것인지가 중요해지고 있다는 의미다.
실제로 미국과 유럽, 중국 등 주요 국가들도 AI 규제 방향을 놓고 치열한 경쟁과 논의를 이어가고 있다. 유럽연합(EU)은 AI 위험 등급에 따라 규제를 차등 적용하는 AI법(AI Act)을 추진하고 있고, 미국 역시 빅테크 기업들을 중심으로 AI 안전 기준 논의를 강화하는 분위기다.
한국 역시 AI 산업 육성과 이용자 보호 사이 균형점을 찾는 것이 중요한 과제로 떠오르고 있다. AI 기술은 반도체와 클라우드, 플랫폼 산업까지 연결되는 핵심 미래 산업이기 때문에 과도한 규제는 산업 경쟁력을 약화시킬 가능성도 있기 때문이다.
반면 규제가 지나치게 느릴 경우 허위 정보와 범죄 악용, 개인정보 침해 같은 사회적 부작용이 빠르게 확산될 수 있다는 우려도 나온다. 전문가들이 “AI 시대에는 속도만큼 안전 기준도 중요하다”고 강조하는 이유다.
이번 협의회가 의미 있는 이유는 정부뿐 아니라 기업과 연구기관, 민간 전문가들이 함께 참여하는 구조라는 점에서도 찾을 수 있다. AI 기술 특성상 단순 행정 규제로 해결하기 어렵기 때문에 산업계와 학계, 시민사회가 함께 기준을 만들어야 한다는 것이다.
최근에는 AI 윤리 교육 중요성도 빠르게 커지고 있다. 단순히 기술 사용법만 배우는 것이 아니라, AI가 가진 한계와 위험성, 정보 신뢰도 판단 방법까지 함께 교육해야 한다는 목소리가 많다.
특히 청소년 세대는 앞으로 AI 환경 속에서 가장 오래 살아갈 세대인 만큼, 디지털 리터러시와 AI 이해 교육이 매우 중요해질 가능성이 크다. AI가 제공하는 답변을 무조건 사실로 받아들이기보다 스스로 검증하고 판단하는 능력이 필요하다는 의미다.
일부 전문가들은 앞으로 플랫폼 규제 개념 자체도 달라질 가능성이 있다고 보고 있다. 과거에는 게시물 삭제와 추천 알고리즘 관리 중심이었다면, 이제는 생성형 AI가 어떤 방식으로 콘텐츠를 만들고 어떤 데이터를 학습하는지까지 관리 범위가 확대될 수 있다는 것이다.
최근 글로벌 빅테크 기업들도 AI 안전 전담 조직과 콘텐츠 필터링 기술 개발에 투자를 확대하고 있다. 하지만 AI 모델 규모가 커질수록 완벽한 통제는 현실적으로 쉽지 않다는 점에서 지속적인 사회적 논의가 필요하다는 지적도 이어지고 있다.
이번 AI 서비스 이용자 보호 협의회 출범은 단순 규제 논의를 넘어, 생성형 AI 시대에 사회가 어떤 안전 기준과 윤리 원칙을 마련해야 하는지 고민이 본격화되고 있다는 신호로 해석된다. 앞으로 기술 혁신과 이용자 보호 사이에서 어떤 균형점을 만들어갈 수 있을지 관심이 커지고 있다.
※ 본 콘텐츠는 공개된 기사 내용을 바탕으로 생성형 AI 확산, 아동·청소년 보호 문제, AI 규제 방향, 디지털 윤리와 플랫폼 정책 등을 추가해 재구성한 해설형 글입니다.