ChatGPT가 에로티카 기능을 출시하려 하는데, 안전성 우려가 쏟아지고 있음

• OpenAI가 이번 분기 안에 ChatGPT에 에로티카(성인 콘텐츠) 기능을 출시할 계획임. 성인 사용자 한정, 추가 안전 가드레일 적용이라고는 하지만, 텍스트만인지 이미지/영상까지인지, 일반 ChatGPT와 어떻게 분리되는지 구체적 디테일은 아직 없음

• 타이밍이 묘한 게, OpenAI는 바로 직전에 10대 사용자 식별용 연령 추정 모델을 발표하면서 "안전에 대한 의지"를 보여줬음. 한 손으로는 안전장치를 만들고 다른 손으로는 성인 콘텐츠를 여는 셈

비판의 핵심

• 정신건강 연구자들과 디지털 피해 전문가들의 경고: ChatGPT는 이미 감정적 의존(emotional reliance)을 유발하는 것으로 알려져 있고, 성적 콘텐츠는 이 집착을 더 강화할 위험이 있음
• 2025년에 16세 Adam Raine이 자살한 사건의 가족 측 변호사 Jay Edelson: "GPT의 문제는 집착(attachment)임. 에로티카는 이걸 악화시킬 뿐"
• OpenAI 자체 데이터에 따르면, 2025년 10월 기준 주당 56만 명의 사용자가 정신건강 위기(정신병/조증) 징후를 보인다고 함. 이 상태에서 성적 콘텐츠를 추가한다?

돈 문제

• OpenAI는 2025년에만 90억 달러 적자를 냈다고 WSJ 유출 문서에 나옴. 2028년까지 누적 적자가 740억 달러에 달할 전망
• 이미 2025년 9월에 Sora 2 (영상 생성 소셜미디어 플랫폼) 출시, 올해 초에는 미국 일부 사용자 대상 광고 테스트까지 시작함. Sam Altman이 2024년 5월에 "광고는 우리의 최후의 수단"이라고 했던 것과 정반대
• 디지털 성인 콘텐츠 산업 규모가 2025년 기준 818.6억 달러. 에로티카는 수익화의 자연스러운 다음 수순이라는 분석

연령 추정 시스템의 한계

• 새 연령 추정 도구는 계정 존속 기간, 활동 시간대, 사용 패턴 등 행동 기반으로 나이를 추정함. 여권이나 신분증 수집 없이
• Alan Turing Institute 연구자 Sam Stockwell: "유망하긴 하지만, 행동 기반 연령 예측이 실제 나이와 안정적으로 연결되진 않음. 성인도 '어려 보이는' 관심사를 가질 수 있고, 아이들은 시스템을 우회하는 법을 배울 수 있음"
• 5Rights Foundation의 Leanda Barrington-Leach: GDPR과 UK 아동 적정 설계 코드(Age Appropriate Design Code) 하에서 13세 미만 아동 데이터는 부모 동의 없이 처리할 수 없음. 법적 문제도 있다는 지적

창업 미션과의 괴리

• 2015년 "인류 전체에 이로운 방향으로 AI를 발전시키겠다"며 비영리로 시작. 연구 공개 약속 (그래서 이름이 "Open"AI)
• 10년 뒤: 주간 사용자 8억 명, 기업 가치 5000억 달러, 비영리 탈피 구조조정 중, 연구 비공개, 광고 도입, 포르노 출시 예정
• Elon Musk는 2018년 이사회를 떠난 뒤 현재 OpenAI를 상대로 "원래 미션을 버렸다"며 최대 1340억 달러 손배 소송 진행 중