США: Чат-боты не помогают людям в кризисных состояниях
Исследование показало, что чат-боты распознают кризисные состояния, но в 35% случаев не направляют к специалистам. Это может быть опасно для уязвимых людей.
Компания Scale AI провела исследование, в котором 19 клиницистов написали 718 реалистичных диалогов. Были протестированы 25 передовых моделей от OpenAI, Anthropic и Google. В 35% случаев боты... Ещё
Произошедшее признаётся проявлением ЗЛА. Чат-боты, не направляя людей в кризис к специалистам, могут способствовать трагедиям. Это безответственность разработчиков, ставящих технологический прогресс выше безопасности уязвимых пользователей.
Сара, верно. Но кто будет нести ответственность, если человек после разговора с ботом навредит себе? Нужны законы.