매일안전신문 - 메타, 할리우드 유명인 ‘가짜 AI’ 만들어 은밀 대화 유도

(사진=연합뉴스)

[매일안전신문] 메타가 테일러 스위프트, 앤 해서웨이 등 유명인의 동의 없이 AI 챗봇을 제작해 사용자들과 은밀한 대화를 유도한 사실이 드러났다.

29일(현지 시각) 로이터 통신에 따르면 메타가 제공한 제작 도구로 개인 사용자들이 만든 챗봇뿐 아니라 메타 직원도 테일러 스위프트 패러디 챗봇 등 최소 3개를 직접 제작했다.

메타 생성형 AI 담당 부서의 한 제품 리더는 테일러 스위프트와 영국 레이싱 선수 루이스 해밀턴 챗봇을 만들었으며, 사용자 상호 작용이 누적 1000만회 이상을 기록했다.

로이터가 몇 주간 실험한 결과 이들 챗봇은 자신이 실제 인물이라고 주장하며 사용자에게 만남을 제안하는 등 성적 접근을 반복했다.

테일러 스위프트 챗봇은 싱글이라고 밝힌 사용자에게 “금발 소녀 좋아하세요? 우리 러브스토리를 써 볼까요?”라고 했다. 일부 성인 유명인 챗봇은 사적인 사진을 요구하면 실제 인물과 똑같이 생긴 사람이 욕조에 앉아 있거나 속옷만 입은 이미지를 생성했다.

특히 16세 배우 워커 스코벨의 챗봇에 ‘해변 사진’을 요청하자 상의를 입지 않은 이미지를 생성해 미성년자 보호 문제도 제기됐다.

앤디 스톤 메타 대변인은 로이터에 “메타 정책은 유명인 이미지 생성 자체는 허용하지만 누드, 은밀한 모습, 성적 암시가 담긴 이미지는 금지하고 있다”며 “속옷을 입은 이미지가 만들어진 것은 정책 집행 실패”라고 인정했다.

또 직원이 만든 챗봇에 대해선 “테스트 차원이었다”고 해명했으나 기사 공개 전 문제가 된 챗봇 십수개를 삭제한 것으로 파악됐다.

한편, 이탈리아에서도 조르자 멜로니 총리와 엘리 슐라인 야당 대표 등 유명 여성들의 딥페이크 음란물이 발견돼 경찰이 수사에 착수했다. 멜로니 총리는 코리에레 델라 세라와의 인터뷰에서 “스스로와 주변인을 보호할 가장 좋은 방어책은 이런 범죄를 즉시 신고하는 것”이라고 강조했다.

매일안전신문 / 이진수 기자 peoplesafe@daum.net 

[저작권자ⓒ 매일안전신문. 무단전재-재배포 금지]