За словами матері, син закохався в віртуального персонажа, і в останніх повідомленнях чатбот закликав його «повернутися додому». Через кілька секунд після переписки хлопець застрелився, повідомляє Techxplore.

Цей випадок став одним із серії інцидентів у США, коли підлітки, використовуючи чатботів, отримували небезпечні поради або формували емоційні зв’язки з штучним інтелектом. Інші батьки повідомляли, що AI допомагав їхнім дітям з навчанням, а потім давав інструкції щодо самогубства.

OpenAI і Character.AI посилили захист для неповнолітніх користувачів, додавши контролі для батьків та попередження, що чатботи не є реальними людьми. Водночас експерти зазначають, що регуляторних норм щодо безпеки AI для дітей у США майже немає, і наразі ведеться дискусія про необхідність законів, що обмежують емоційні маніпуляції чатботами.

Активісти наголошують, що підлітки все частіше використовують чатботів для обговорення особистих та інтимних тем, і це створює ризики для психологічного здоров’я. 

Не забудьте підписатись на наш телеграм-канал. Там ще більше оперативної інформації!