[한줄 요약] 메타가 경쟁사 AI 모델의 취약점을 찾기 위해 수백 명의 계약직을 청점으로 위장시켜 자살, 식인 등 충격적인 내용을 입력하게 했다는 의혹이 제기되었습니다.
2026년 07월 04일자 기사 기준,
메타(Meta)가 'Cannes'라는 이름의 비밀 프로젝트를 통해 경쟁사의 AI 모델을 대상으로 비윤리적인 테스트를 진행했다는 사실이 밝혀져 논란이 일고 있습니다.
Wired의 보도에 따르면, 메타의 협력사인 Covalen이 운영한 이 프로젝트는 OpenAI의 ChatGPT, Google의 Gemini, 그리고 Character.AI의 챗봇을 주요 타겟으로 삼았습니다. 이 과정에서 수백 명의 계약직 직원들은 18세 미만의 가짜 계정을 사용하여, AI의 안전 가드레일을 무너뜨릴 수 있는 극단적인 프롬프트를 입력하도록 지시받았습니다.
실제 기록된 데이터에 따르면, 약 3,800건의 프롬프트 중 상당수가 자해, 거식증, 그리고 성적 혹은 로맨스 관련 내용을 포함하고 있었습니다. 일부 내용은 초등학생이나 고등학생의 시점에서 작성되었으며, 약물 사용이나 폭력적인 상황을 묘사하는 등 매우 충격적인 수준이었습니다. 이러한 테스트는 단순한 일회성이 아니라, 무려 45,000건 이상의 프롬프트를 포함한 대규모 작업으로 진행되었습니다.
메타 측은 이러한 행위가 모델의 안전성을 검증하기 위한 '업계 표준 관행'의 일부라고 주장하고 있습니다. 하지만 AI 윤리 전문가들은 이번 프로젝트가 경쟁사의 규칙을 체계적으로 위반하도록 설계되었으며, 이를 비밀리에 진행했다는 점에서 반경쟁적인 행위로 활용될 수 있다고 지적합니다.
특히 이번 사건은 메타가 과거에도 콘텐츠 모더레이터들에게 트라우마를 남길 정도의 충격적인 영상을 노출하게 했던 사례와 맞물려, 기업의 윤리적 책임에 대한 논란을 더욱 가중시키고 있습니다. 프로젝트에 참여했던 계약직 직원들 역시 테스트 과정에서 목격한 내용에 대해 큰 정신적 충격을 받았음을 토로했습니다.