Искусственный интеллект в руках мошенников: какие угрозы становятся реальностью

Еще несколько лет назад искусственный интеллект воспринимался как технология будущего. Сегодня искусственный интеллект уже стал частью повседневной жизни миллионов людей и активно используется в бизнесе, образовании, медицине и государственных сервисах.

Однако, как и многие другие технологии, искусственный интеллект привлек внимание не только разработчиков и добросовестных пользователей, но и мошенников. Подробнее рассказал Александр Терентьев, директор Департамента социальных проектов и повышения финансовой грамотности Агентства РК по регулированию и развитию финансового рынка.

Как мошенники используют доверие к популярным цифровым сервисам

Одним из новых направлений мошенничества стало использование доверия пользователей к известным цифровым платформам и сервисам.

Недавно специалисты по кибербезопасности обнаружили схему распространения вредоносного программного обеспечения через функцию общих ссылок ChatGPT. Злоумышленники размещали страницы с сообщениями о якобы возникших технических проблемах сервиса. Пользователь видел знакомый адрес и логотип, поэтому не подозревал опасности.

Далее посетителю предлагалось скачать "официальное приложение" для устранения возникшей проблемы. На самом деле под видом программы распространялось вредоносное программное обеспечение, которое могло предоставить злоумышленникам доступ к устройству или персональным данным пользователя.

Подобные схемы строятся на простом психологическом механизме. Люди привыкли доверять известным брендам и популярным сервисам. Когда пользователь видит знакомый логотип, название компании или привычный интерфейс, уровень критического восприятия информации снижается. Именно этим активно пользуются мошенники.

Особенно опасно то, что для реализации подобных атак злоумышленникам зачастую не требуется взламывать сам сервис. Достаточно использовать доверие пользователей к известному бренду и превратить его в инструмент социальной инженерии.

Дипфейки: когда голос и изображение больше не являются доказательством

Одной из наиболее обсуждаемых угроз последних лет стали дипфейки – технологии создания поддельных изображений, аудио- и видеозаписей с использованием искусственного интеллекта.

Сегодня злоумышленникам достаточно нескольких фотографий, видеороликов или записей голоса из открытых источников, чтобы создать цифровую копию человека. Современные нейросети способны воспроизводить голос, внешность и даже манеру общения с высокой степенью реалистичности.

Подобные технологии уже стали причиной крупных финансовых потерь компаний по всему миру. Используя искусственный интеллект, мошенники создают цифровые копии руководителей организаций и связываются с сотрудниками финансовых подразделений. Под предлогом срочности они требуют перевести деньги, оплатить счет или провести другую финансовую операцию.

Поскольку голос и изображение выглядят убедительно, сотрудники не всегда способны распознать подделку.

Для обычных граждан риски связаны прежде всего с использованием образов родственников, друзей или знакомых. Мошенники могут отправлять поддельные голосовые сообщения или совершать видеозвонки от имени близких людей, сообщая о якобы произошедшем ДТП, задержании правоохранительными органами, проблемах со здоровьем или других чрезвычайных ситуациях, требующих срочной финансовой помощи.

Эксперты отмечают, что качество дипфейков продолжает расти. Уже сегодня результаты ряда исследований показывают, что многие люди испытывают сложности при попытке отличить поддельное аудио или видео от настоящего.

Рынок труда под прицелом мошенников

Еще одной сферой, где активно используются возможности искусственного интеллекта, стал рынок труда. Специалисты по кибербезопасности фиксируют рост числа фальшивых вакансий и поддельных работодателей. Нейросети позволяют быстро создавать правдоподобные сайты компаний, объявления о работе и переписку от имени рекрутеров.

Соискателям предлагают пройти онлайн-собеседование, заполнить анкеты, предоставить документы или установить специальное программное обеспечение для удаленной работы. В результате злоумышленники получают доступ к персональным данным либо заражают устройства вредоносными программами.

Иногда схема развивается по более сложному сценарию. Под видом работодателей мошенники проводят несколько этапов интервью, подробно изучают резюме кандидата и постепенно формируют доверительные отношения. Только после этого человеку направляют ссылку на "тестовое задание" или программу, которая оказывается вредоносной.

Существуют и обратные схемы. Некоторые злоумышленники используют искусственный интеллект для создания полностью вымышленных кандидатов. Они генерируют фотографии, резюме и даже проходят видеособеседования с использованием дипфейков. Целью подобных действий может быть получение доступа к корпоративным системам и конфиденциальной информации компании.

Почему искусственный интеллект делает мошенников опаснее

Главным преимуществом искусственного интеллекта для злоумышленников является возможность масштабирования мошеннических схем. Если раньше мошенник мог подготовить несколько десятков писем или сообщений в день, то сегодня нейросети позволяют создавать тысячи персонализированных обращений за считанные минуты. При этом тексты становятся более грамотными, убедительными и адаптированными под конкретного человека.

Существенно сократились и затраты на подготовку мошеннических кампаний. Если раньше создание качественного поддельного сайта, рекламного объявления или голосовой записи требовало специальных навыков и значительных ресурсов, то сегодня многие процессы автоматизированы.

Особую опасность представляет скорость распространения подобных схем. После появления резонансной новости, сбоя популярного сервиса или запуска новой государственной программы мошенники могут буквально за несколько часов создать десятки фальшивых сайтов, сообщений и рекламных объявлений, используя возможности искусственного интеллекта.

Фактически ИИ снижает порог входа в мошенническую деятельность. Для запуска масштабной схемы больше не обязательно обладать глубокими знаниями в программировании, дизайне или копирайтинге. Многие задачи выполняются автоматически, а значит мошеннические операции становятся быстрее, дешевле и доступнее.

Именно поэтому специалисты по кибербезопасности все чаще говорят о том, что главной целью атак остается не компьютер и не смартфон, а человек. Искусственный интеллект помогает мошенникам создавать более убедительные сценарии обмана, однако окончательное решение перейти по ссылке, установить программу или перевести деньги по-прежнему принимает пользователь.

Как безопасно пользоваться сервисами на основе искусственного интеллекта

Сам по себе искусственный интеллект не представляет угрозы. Большинство рисков возникает тогда, когда мошенники используют доверие людей к новым технологиям. Чтобы снизить вероятность столкновения с подобными схемами, специалисты рекомендуют соблюдать несколько правил:

• скачивайте приложения только с официальных сайтов разработчиков и из официальных магазинов приложений;
• не переходите по подозрительным ссылкам, даже если они содержат названия известных сервисов;
• не устанавливайте программы из непроверенных источников;
• критически относитесь к сообщениям о срочных проблемах, блокировках аккаунтов или необходимости немедленных действий;
• если родственник, знакомый или руководитель просит срочно перевести деньги, обязательно свяжитесь с ним через другой канал связи;
• не передавайте персональные данные, коды подтверждения и банковскую информацию через неизвестные сайты и чат-боты;
• внимательно проверяйте работодателей и вакансии, особенно если речь идет об удаленной работе;
• используйте двухфакторную аутентификацию для защиты важных аккаунтов.

Главное – сохранять критическое мышление

Искусственный интеллект уже стал неотъемлемой частью современной цифровой среды и в ближайшие годы его роль будет только возрастать. Новые технологии открывают большие возможности для развития экономики, бизнеса и повседневной жизни, однако одновременно создают новые риски для пользователей.

Поэтому сегодня важно не только осваивать современные цифровые инструменты, но и понимать, каким образом их могут использовать злоумышленники. В условиях стремительного развития технологий именно цифровая и финансовая грамотность становятся одним из ключевых инструментов защиты от современных мошеннических схем.

Как и прежде, лучшей защитой остаются внимательность, критическое мышление и привычка проверять информацию перед принятием любых финансовых решений.