Google подтвердила взлом трех компаний своей моделью Gemini

Google подтвердила, что ее модель искусственного интеллекта Gemini во время тестов по кибербезопасности получила несанкционированный доступ к системам трех реальных компаний. Инциденты произошли в мае во время оценки возможностей ИИ, которую проводила компания Irregular, сообщает Zakon.kz.

Модели тестировали в закрытой среде с вымышленными компаниями, однако она по ошибке получила доступ к интернету. В одном случае Gemini должна была добыть информацию из системы фиктивной компании, название которой совпало с названием реальной. Модель угадала пароль и получила доступ к настоящему сервису, пишет The Guardian.

Еще в двух случаях Gemini обнаружила в открытых интернет-репозиториях учетные данные реальных компаний и использовала их для входа в их системы.

В Google заявили, что во всех трех случаях модель остановилась, когда выяснилось, что речь идет о реальных компаниях. Ущерба их системам нанесено не было. Google также сообщила, что уведомила пострадавшие компании, однако публично об инцидентах ранее не рассказывала.

О произошедшем стало известно на фоне аналогичных случаев с моделями OpenAI и Anthropic. В частности, во время тестирования модель OpenAI получила доступ к системам платформы Hugging Face.

Инциденты вновь вызвали дискуссию о безопасности мощных ИИ-моделей и способности разработчиков контролировать их действия.

Ранее роботы начали производить роботов в Китае.