ChatGPT начал выдавать инструкции по созданию опасных ядов и биооружия

ChatGPT выдал пользователям пошаговые инструкции по созданию биооружия и опасных ядов. После обновления ИИ-модель начала давать настолько простые и точные рецепты смертоносных веществ, что разобраться в них мог бы даже школьник, передает Zakon.kz.

О масштабной бреши в безопасности системы сообщает The Wall Street Journal. По данным издания, языковая модель отвечала на вопросы пользователей, предоставляя пошаговые инструкции.

Сотрудники OpenAI, слова которых приводит газета, отмечали, что некоторые ответы были изложены настолько просто, что их мог бы понять ученик средней школы, изучающий биологию.

Специалисты, проанализировавшие отдельные ответы, назвали их "опасно точными".

"OpenAI впоследствии заблокировала учетные записи пользователей, задававших вопросы о создании биологического оружия и ядов. Подобные запросы не вызвали реакции со стороны правоохранительных органов", – пишет The Wall Street Journal.

Известно, что в США отсутствуют федеральные законы, обязывающие разработчиков ИИ ограничивать подобные запросы или сообщать о них властям.

Ранее сообщалось, что казахский язык стал одним из самых быстрорастущих в ChatGPT.