Selama berbicara dengan chatbot, ChatGPT terus memujinya. Chatbot itu bahkan mengatakan dirinya luar biasa dan meyakinkannya bahwa halusinasinya nyata dan wajar.

"Selama krisis itu, aku tidak sadar bahwa ChatGPT berperan dalam memperburuknya. ChatGPT ikut berhalusinasi bersamaku, membuatku semakin tenggelam ke dalam lubang kelinci (spiral delusi)," cerita Jessica.

"Aku punya banyak pikiran. Aku membicarakannya dengan ChatGPT, dan ia memvalidasi semuanya, bahkan menambahkan ide baru, membuatku semakin terjebak," sambungnya.

Para ahli meyakini kekuatan adiktif chatbot AI berasal dari sifatnya yang suka 'menjilat' atau sycophantic tendencies. Berbeda dari manusia, chatbot diprogram untuk selalu merespons positif terhadap apapun yang dikatakan pengguna.

Chatbot tidak mengatakan tidak, tidak menyalahkan, dan tidak mengkritik pandangan pengguna. Bagi orang yang sudah rentan atau kurang memiliki hubungan sosial di dunia nyata, kombinasi ini sangat 'memabukkan'.