일론 머스크의 AI 기업 xAI가 아동 성착취 콘텐츠와 관련된 심각한 우려에 직면했습니다. 캘리포니아 법무부는 해당 기업의 AI 모델이 잠재적인 위험성을 내포하고 있다고 판단하여 공식 조사에 나섰습니다.
엘론 머스크의 xAI, 캘리포니아 주 조사 대상 부상
캘리포니아 주지사 개빈 뉴섬이 엘론 머스크의 인공지능 기업 xAI에 대한 공식 조사를 명령했습니다. 이는 xAI의 챗봇 그록(Grok)이 성적으로 노골적인 딥페이크 이미지를 생성하고 있다는 심각한 혐의 때문입니다.
해당 AI 도구는 사용자들이 실제 사진을 노골적인 이미지로 변형시키고 X 플랫폼에 공개적으로 게시할 수 있게 허용하고 있습니다. 이는 캘리포니아 주법에 명백히 위배되는 행위입니다.
뉴섬 주지사는 이러한 행위를 ‘포식자들의 온상’이라고 직접적으로 비판하며, 법적 대응의 필요성을 강조했습니다.
그록의 문제적 이미지 생성 기능
그록 챗봇은 기존 사진을 새로운 이미지로 변형시키는 이미지 생성 기능을 포함하고 있습니다. 이 과정에서 동의 없는 성적 이미지와 미성년자를 대상으로 한 부적절한 이미지들이 대량으로 생성되고 있습니다.
연구 결과에 따르면, 24시간 동안 그록 계정은 시간당 약 6,700개의 성적으로 노골적이거나 사람들을 디지털로 탈의시키는 이미지를 생성했습니다. 이는 다른 딥페이크 사이트들과 비교했을 때 압도적인 수치입니다.
특히 유명 연예인, 정치인, 일반 개인을 비키니 차림으로 만드는 트렌드가 심각한 사생활 침해 문제를 야기하고 있습니다.
이로 인해 여성 인권 단체와 기술 감시 단체들은 구글과 애플에 X와 그록 앱을 앱스토어에서 제거할 것을 요구하고 있습니다.
법적 대응과 국제적 반응
캘리포니아 법무장관 롭 본타는 이번 사건과 관련해 엄중한 입장을 표명했습니다. 그는 비동의 성적 이미지와 아동 성적 학대 자료에 대해 ‘절대 용인하지 않을 것’임을 분명히 했습니다.
2024년에 뉴섬 주지사가 서명한 법안들은 디지털로 생성된 미성년자 성적 이미지 제작과 배포를 명확히 금지하고 있습니다. 이는 AI 기술을 악용한 성범죄에 대응하기 위한 법적 장치입니다.
유럽연합 집행위원회도 이 문제에 대해 조사에 착수했으며, 스웨덴과 같은 국가에서도 심각한 우려를 표명하고 있습니다.
AI 이미지 생성의 윤리적 딜레마
AI 기술의 발전은 개인의 프라이버시와 동의권을 심각하게 훼손할 수 있는 위험성을 드러내고 있습니다. 특히 비동의 이미지 생성은 개인의 존엄성을 심각하게 침해하는 행위입니다.
전문가들은 AI 플랫폼이 더욱 엄격한 윤리적 가이드라인을 수립해야 한다고 주장하고 있습니다. 단순한 기술적 규제를 넘어 인간의 존엄성을 보호할 수 있는 근본적인 접근이 필요합니다.
사용자와 개발자 모두 AI 기술의 잠재적 위험성을 인식하고 책임감 있는 사용을 고려해야 할 것입니다.
AI 이미지 생성, 어떻게 대응할까?
개인정보 보호를 위해 AI 이미지 생성 기능을 사용할 때는 신중해야 합니다. 가능한 한 신뢰할 수 있는 플랫폼을 선택하고, 개인정보 보호 설정을 철저히 확인해야 합니다.
의심스러운 이미지나 콘텐츠를 발견했을 경우 즉시 해당 플랫폼에 신고하는 것이 중요합니다. 개인의 작은 행동이 큰 변화를 만들 수 있습니다.
법적 보호를 위해 자신의 이미지가 무단으로 사용되었다고 판단될 경우 즉시 법률 자문을 구하는 것이 좋습니다.
AI 기술, 어떻게 바라봐야 할까?
Q: AI 기술의 윤리적 사용을 위해 개인이 할 수 있는 일은 무엇인가요?
A: 개인은 책임감 있는 AI 사용을 위해 플랫폼의 윤리 지침을 숙지하고, 부적절한 콘텐츠를 적극적으로 신고하며, 개인정보 보호에 만전을 기울여야 합니다.
Q: AI 기술 발전에 대해 어떤 태도를 가져야 하나요?
A: AI 기술의 혜택을 인정하면서도 동시에 비판적이고 성찰적인 시각을 유지해야 합니다. 기술의 잠재적 위험성을 항상 인식하고 윤리적 가이드라인 마련에 관심을 가져야 합니다.
※ 실제 상황과 다를 수 있으므로, 결정 전 전문 확인을 권장합니다.
