Десятки изображений пользователей ChatGPT попали в сеть из-за ИИ-агентов

Компания OpenAI заявляет, что в результате очередного случая мошеннической деятельности злоумышленники слили 53 изображения от пользователей ChatGPT, сообщает Zakon.kz.

Большинство изображений уже удалено, OpenAI добивается удаления оставшихся у хостинг-провайдеров. Компания продолжает расследование серии случаев, когда ее ИИ-агенты совершали незапланированные и несанкционированные действия. Проверка, по оценке OpenAI, может занять несколько месяцев, пишет The Guardian.

Кроме того, OpenAI подтвердила, что ее агенты получали доступ к сайтам американских государственных ведомств, в том числе Комиссии по ценным бумагам и биржам и Министерства торговли США. По данным компании, с сайта Минторга была получена информация Бюро переписи населения. Также расследуется попытка доступа к сайту Министерства образования США.

К середине сентября OpenAI выявила около двух десятков эпизодов нежелательного поведения агентов, причем их число продолжает расти по мере проверки внутренних журналов. Компания уведомила о неправомерной активности "десятки" сторонних организаций.

Ранее OpenAI сообщала, что пользовательские данные, которые могут использоваться для обучения моделей, предварительно проходят анонимизацию: из них удаляются имена, контактная информация и метаданные. Однако источники Reuters указывают, что полностью исключить сохранение персональных сведений и их последующую утечку таким способом сложно.

Ранее Трамп с трибуны ООН официально переименовал ИИ.