그록 음란 이미지 파문…영국 규제 당국, X 조사 나서
[블록미디어 박수용 기자] 영국 규제 당국이 일론 머스크의 소셜미디어 플랫폼 엑스(옛 트위터)를 상대로 인공지능(AI) 챗봇 그록이 생성한 성적 이미지와 관련해 공식 조사에 나섰다. AI로 만들어진 비동의 음란 이미지가 확산되면서 각국 정부와 규제 기관의 압박도 커지고 있다.
12일(현지시각) 영국 방송통신 규제 기관 오프콤은 X에서 제공되는 그록을 통해 생성되고 공유된 노출 이미지가 친밀 이미지 학대나 음란물에 해당할 수 있다며 공식 조사에 착수했다고 밝혔다. 오프콤은 아동의 성적 이미지가 생성된 경우 아동 성학대물에 해당할 가능성도 있다고 지적했다.
이번 조사는 AI가 생성한 성적 이미지가 전 세계적으로 확산되며 아동과 이용자 보호에 대한 우려가 커진 가운데 이뤄졌다. 오프콤은 X가 온라인 안전법에 따라 불법 콘텐츠로부터 이용자를 보호할 의무를 제대로 이행했는지 여부를 들여다보고 있다. 법 위반이 확인될 경우 시정 조치 요구나 벌금 부과, 서비스 제한도 가능하다.
그록은 일론 머스크가 설립한 AI 기업 xAI가 개발한 챗봇으로, X 플랫폼에 직접 연동돼 제공되고 있다. 지난해 12월 말부터 텍스트 명령을 통해 이미지를 편집하고 생성할 수 있는 기능이 추가됐다. 이후 여성의 사진을 속옷 차림이나 노출이 많은 모습으로 변형한 비동의 이미지가 X에 대거 게시되며 문제가 불거졌다.
논란이 커지자 xAI는 최근 X에서 그록의 이미지 생성과 편집 기능을 유료 구독자에게만 제한했다. 영국 총리실은 이 같은 조치가 충분하지 않다며 불법 이미지를 생성할 수 있는 기능을 유료 서비스로 전환한 것에 불과하다고 비판했다.
블룸버그에 따르면 프랑스와 인도 등도 그록의 성적 이미지 생성 문제를 공개적으로 비판했다. 프랑스 정부는 이 사안이 유럽연합(EU) 디지털서비스법 위반에 해당할 수 있다고 밝혔다. 유럽연합 집행위원회는 연말까지 그록과 관련한 내부 문서를 보존하라고 X에 명령했다. 인도네시아와 말레이시아는 일시적으로 그록 접근을 차단했다.
출처: BlockMedia