오픈AI가 성인 이용자를 대상으로 한 성인용 콘텐츠 허용 방침을 예고하면서 AI 활용의 경계를 넓히려는 움직임에 속도가 붙고 있다. 

 

샘 올트먼 오픈AI 최고경영자(CEO)는 14일(현지시간) X를 통해 챗GPT의 차세대 업데이트 계획을 공개하며, “수 주 내 GPT-4o에서 높이 평가된 특성을 더 잘 반영한 새로운 버전의 챗GPT를 선보일 것”이라고 밝혔다. 그는 특히 대화의 자연스러움과 친밀감을 강화하겠다는 의지를 드러냈다. “사용자가 원한다면 챗GPT가 사람처럼 더 자연스럽게 이야기하고, 때로는 친구처럼 말을 건네도록 할 것”이라는 설명이다.

 

이번 계획의 핵심은 성인 이용자에게 허용되는 콘텐츠의 범위를 넓히는 데 있다. 올트먼 CEO는 “12월 연령 제한 기능을 도입하고, ‘성인 이용자는 성인답게 대하자’는 원칙 아래 인증된 성인에게 성애 콘텐츠(erotica) 등 일부 성인용 표현을 허용하겠다”고 말했다. 이는 그동안 정신건강 리스크를 최소화하기 위해 보수적으로 운영해온 콘텐츠 정책을 재조정하겠다는 의미로 해석된다. 

 

그는 “우리가 챗GPT를 매우 제한적으로 만든 결과, 정신건강 문제가 없는 많은 이용자에게는 이 도구가 덜 유용하고 재미도 떨어졌다는 점을 확인했다”며 “이제 심각한 정신건강 문제를 어느 정도 경감할 수 있는 안전장치와 도구를 갖추게 되었고, 대부분의 경우에서 제한을 완화해도 안전하다고 판단한다”고 부연했다.

 

다만 이번 방침을 둘러싼 논란도 만만치 않다. 해외 주요 매체들은 성인물 허용이 사회적 파장을 키우고 규제 당국의 압박을 불러올 수 있다고 우려했다. 특히 미성년자 보호 장치의 실효성, 성적 표현의 범위 설정, 플랫폼의 책임 소재 등 민감한 쟁점이 한꺼번에 대두될 가능성이 지적된다. 지역별 문화·법규 차이에 따른 가이드라인의 정교화도 필수 과제로 꼽힌다. 오픈AI는 연령 인증과 접근 제어를 포함한 다층적 안전장치를 마련하고, 위험 신호 감지 및 차단 알고리즘을 고도화해 오남용을 억제한다는 방침이다.

 

업계에서는 이번 변화가 AI 비서의 개인화와 몰입형 상호작용을 가속화할 분기점이 될 수 있다는 평가와 함께, 플랫폼 신뢰성과 책임성의 시험대가 될 것이라는 전망이 공존한다. 성인용 대화 허용이 사용 경험의 다양성과 만족도를 끌어올릴 수는 있지만, 경계선 콘텐츠의 관리, 데이터 보호, 의도치 않은 강화 학습 효과 등에 대한 면밀한 대비가 필요하다는 지적이다. 

 

오픈AI가 예고한 정책 조정이 이용자 선택권을 넓히면서도 안전성과 공공의 우려를 조화롭게 반영할 수 있을지, 12월로 예고된 연령 제한 기능 도입과 함께 그 실행력에 관심이 쏠린다.