• 목록
• 답변

OpenAI가 12월부터 인증된 성인 사용자들이 ChatGPT에서 에로틱 콘텐츠를 생성할 수 있도록 허용할 계획이라고 샘 알트만 CEO가 화요일에 밝혔다. 이는 과거 성적 또는 로맨틱한 콘텐츠에 대해 엄격한 제한을 두었던 회사의 정책 변화를 의미한다.

"우리는 정신 건강 문제에 신중하게 대응하기 위해 ChatGPT를 상당히 제한적으로 만들었습니다," 알트만이 X에 작성했다. "Now 우리가 그러한 위험을 완화하고 새로운 도구를 갖추게 되면서, 대부분의 경우 안전하게 제한을 완화할 수 있게 되었습니다."

OpenAI는 이전에 사용자들 사이에서 감정적 의존도와 정신 건강 문제의 위험을 줄이기 위해 성적 콘텐츠에 대한 엄격한 제한을 유지했다. 알트만에 따르면, 이번 새로운 조치는 더 강력한 안전 시스템에 대한 자신감과 "성인 사용자를 성인으로 대우한다"는 더 넓은 원칙을 반영한다.

그럼에도 OpenAI는 제한을 완화하면서도 안전장치를 유지하는 핵심 과제에 직면해 있다. 회사는 연령 제한, 옵트인 성격 설정, 업그레이드된 모더레이션 도구를 활용하여 오용을 방지하고 미성년자를 보호할 계획이라고 밝혔다.

이번 변화는 일론 머스크가 이끄는 스타트업 xAI가 18세 이상을 위한 "스파이시" 모드와 플러팅 AI 동반자 기능을 출시한 것과 맞물려, 친밀감을 위해 구축된 AI 생태계가 성장하고 있음을 보여준다.

대조적으로, Claude AI 모델을 개발한 안전 중심 연구소 Anthropic은 더 분석적인 접근 방식을 취했다. 내부 연구에 따르면 Claude 대화의 0.1% 미만이 로맨틱하거나 성적인 역할극과 관련이 있었으며, AI 친밀감이라는 개념이 과도한 관심을 끌고 있지만 실제로는 소수의 행동에 불과하다는 것을 시사한다.

알트만은 최근 ChatGPT가 생산성을 넘어서는 더 넓은 비전을 제시했으며, "당신의 전체 삶을 기억하는" ChatGPT를 원한다고 말했다. 이는 평생 도우미나 심지어 친구로서 작용할 수 있는 시스템을 구축하는 데 중요한 단계로 보고 있다.

하지만 이러한 야망에는 긴장이 따른다. 알트만은 특히 "ChatGPT에 모든 것을 말하지 않고는 어떤 결정도 내릴 수 없는" 젊은 사용자들이 AI에 감정적으로 너무 의존하게 될 위험성에 대해 경고했다. 성인 콘텐츠와 표현력 있는 성격의 도입은 OpenAI가 유용성, 동반자 관계, 사용자 선택 사이의 균형을 맞추고 AI가 얼마나 인간적으로 느껴져야 하는지 결정하는 능력을 시험할 것이다.