ИИ-системе удалось предотвратить в Китае 700 суицидов

Х. Чжишен из Свободного университета Амстердама представил алгоритм, способный самостоятельно находить на платформе Weibo суицидальные сообщения. Платформа Weibo является китайским аналогом сервиса Twitter. При обнаружении суицидального сообщения в Weibo ИИ-система тут же ставит об этом в известность добровольцев из команды Three Hole. Они не позволяют опубликовавшему сообщение пользователю покончить с собой.
 
ИИ-система использует для оценки сообщений по степени опасности самоубийства 10-балльную шкалу. Если рейтинг публикации превышает 6 баллов, то алгоритм сообщает об этом добровольцам. В отдельных случаях им удается успокоить самоубийц в удаленном режиме. ИИ-система была запущена 18 месяцев назад. За это время члены команды Tree Hole предотвратили в Китае порядка 700 суицидов.
 
К слову, для определения склонности к суициду искусственный интеллект также используется социальной сетью Facebook. Специальная система анализирует стриминговые трансляции пользователей в Facebook Live и публикуемые ими посты. При обнаружении потенциального самоубийцы алгоритм сообщает об этом экстренным службам.
 
По мнению экспертов, ошибки в работе алгоритма могут спровоцировать юзеров на совершение суицида.