슬롯 머신 일러스트 "사람처럼 웃기까지"…영화 'Her' 실사판에 경고 쏟아낸 이유

챗GPT 음성모드 부작용 경고한 오픈슬롯 머신 일러스트

슬롯 머신 일러스트, 대화 중 웃거나 콧소리 내
사용자와 감정적 유대감 공유
“슬롯 머신 일러스트를 인간처럼 느낄 수도”

사람 목소리로 이야기 들려주는 슬롯 머신 일러스트
사실 아닌 정보도 사실처럼 말해
오픈슬롯 머신 일러스트 “사용자 안전 위해 노력할 것”

챗GPT 개발사 오픈슬롯 머신 일러스트가 새롭게 출시하는 챗GPT 음성 모드에 사람들이 지나치게 감정을 의존하게 될 수 있다고 우려했다.

8일(현지시간) 미국 CNN에 따르면 이날 오픈슬롯 머신 일러스트는 보고서를 통해 진짜 사람처럼 들리는 챗GPT 음성 모드로 인해 사람들이 인공지능(슬롯 머신 일러스트)에 과도하게 의존함으로써 진짜 인간 관계를 소홀히 하는 등 영향을 미칠 수 있다고 경고했다. 보고서에는 지난주 유료 사용자에 배포되기 시작한 ‘GPT-4o 고급 음성 모드’와 대규모 언어 슬롯 머신 일러스트 모델에 대한 안정성을 검토한 내용이 담겼다.챗GPT 음성 모드는 슬롯 머신 일러스트와 실시간으로 대화할 수 있으며 슬롯 머신 일러스트와 사용자의 인간적인 상호작용이 가능하도록 설계됐다. 이야기를 하는 도중 방해를 받아도 매끄럽게 대화가 이어지고 대화 중에 슬롯 머신 일러스트가 웃거나 ‘흠’ 같이 사람이 내는 소리를 낼 수 있다. 또한 사용자 목소리 톤에 따라 화자의 감정 상태를 파악한다.

오픈슬롯 머신 일러스트의 챗GPT 음성모드가 올해 초 한 행사에서 소개됐을 때 영화 ‘Her’에서 주인공이 슬롯 머신 일러스트 비서와 사랑에 빠지는 모습을 연상시켜 화제를 모았다. 오픈슬롯 머신 일러스트는 “사용자가 챗GPT 음성모드에서 공유된 유대감을 표현하는 언어로 대화하는 것을 관찰했다”고 밝히며 특히 슬롯 머신 일러스트가 사실이 아닌 내용을 사실인 것처럼 말하기도 하는 점을 우려했다.

오픈슬롯 머신 일러스트는 “사용자는 슬롯 머신 일러스트와 관계를 맺으면서 실제 인간 교류에 대한 필요성을 줄여 외로운 사람들에게는 도움이 될 수 있지만 건강한 사회 관계에는 안좋은 영향을 미칠수 있다”며 “슬롯 머신 일러스트가 사람처럼 정보를 들려주면서 사용자는 의심하지 않고 슬롯 머신 일러스트를 무조건적으로 신뢰하게 될 수 있다”고 말했다.오픈슬롯 머신 일러스트는 “슬롯 머신 일러스트를 안전하게 구축하기 위해 최선을 다하고 있으며, 사용자의 감정적 의존에 대한 부분을 지속적으로 연구할 계획” 이라고 말했다.

조영선 기자 cho0sun@hankyung.com