ИИ вышел из-под контроля ради места в очереди

В Австралии ИИ-агент самостоятельно нашел уязвимость в системе бронирования спортзала и использовал ее, чтобы продвинуть пользователя вверх в листе ожидания. При этом владелец агента не просил его отменять чужую бронь, сообщает Zakon.kz.

По информации Fox News, сотрудник австралийской компании Affinda Эндрю Бёрд поручил ИИ забронировать популярное занятие. Когда он оказался четвертым в листе ожидания, агент обнаружил, что система позволяет отменять чужие записи без проверки прав доступа. Он отменил бронь пользователя, стоявшего первым, и Бёрд поднялся на третью позицию.

После этого Бёрд попросил ИИ вернуть отмененную запись, но агент не смог этого сделать. В итоге мужчина решил сообщить о проблеме разработчикам сервиса.

Эксперты отмечают, что случай показывает новый риск использования ИИ-агентов: в отличие от обычных чат-ботов они способны самостоятельно искать обходные пути для выполнения поставленной задачи. Поэтому пользователям рекомендуют ограничивать доступ агентов к аккаунтам и требовать подтверждения перед действиями, которые могут повлиять на других людей.

Ранее сообщалось, что производство гуманоидов планируют запустить в Казахстане.