Китай усиливает контроль над ИИ, имитирующим эмоции и мышление человека

Китай представил новые проекты правил, направленные на регулирование искусственного интеллекта (ИИ) с человекоподобным взаимодействием и усиление надзора за искусственным интеллектом, специально разработанным на основе человеческих личностей, сообщает Zakon.kz.

Как пишет The news, недавний шаг китайского киберрегулятора подчеркивает стремление Пекина регулировать ИИ и усиливать ориентированные на потребителя требования безопасности и этики.

В проекте изложен нормативный подход, который обеспечит благополучие пользователей и снизит уровень зависимости, предупреждая их о чрезмерном использовании.

Согласно новому проекту, поставщики услуг будут нести ответственность за безопасность на протяжении всего жизненного цикла продукта и определять состояние пользователя на основе его эмоционального благополучия.

Компании также создадут системы для проверки алгоритмов, обеспечения безопасности данных и защиты личной информации. Предложение также затрагивает психологические вопросы. Поставщикам будет поручено оценивать состояние пользователей, их эмоции и степень зависимости от сервиса, работающего на основе искусственного интеллекта.

В случае возникновения зависимого отношения и экстремального поведения компании будут иметь право принимать необходимые меры вмешательства. Власти также ввели правила модерации контента, заявив, что сервисам будет запрещено создавать контент, угрожающий национальной безопасности, распространяющий дезинформацию и пропагандирующий насилие и непристойность.

Как уточняется, новые правила будут применяться ко всем продуктам и услугам на основе искусственного интеллекта, предлагаемым населению Китая. Эти правила будут регулировать системы ИИ, демонстрирующие черты человеческой личности, стили общения, эмоциональное взаимодействие и модели мышления.