Краткое содержание:
- Генеративный искусственный интеллект снизил входной барьер для мошенников, позволив преступным синдикатам выполнять сложнейшие, убедительные и масштабные мошеннические операции.
- Для борьбы с этими угрозами Meta использует передовые модели искусственного интеллекта для анализа множества контекстных сигналов, чтобы обнаружить и разрушить модели мошенничества, которые упускают из виду традиционные методы обнаружения.
- Поскольку ни одно учреждение не может увидеть всю аферу от начала до конца, обмен разведданными в режиме реального времени и межсекторальное сотрудничество между правительствами, технологическими компаниями и правоохранительными органами имеют решающее значение для успешного разрушения глобальных преступных сетей.
- Узнайте больше о том, как Meta защищает пользователей от мошенничества.
Появилось новое поколение мошенничеств, обнаружить которое становится все труднее. Они могут варьироваться от фейкового видео, на котором доверенный общественный деятель одобряет инвестиции, до голосовой заметки, имитирующей банковского служащего, или предложения о работе, в котором упоминается ваш реальный опыт работы от заслуживающего доверия рекрутера.
Генеративный искусственный интеллект снизил входной барьер для мошенников, одновременно повысив качество, сложность и масштаб их операций. Мошенники могут использовать искусственный интеллект для создания убедительных фейковых аккаунтов с последовательной предысторией и аутентичными фотографиями и видео профиля. Бывают также случаи, когда ИИ способствует быстрому созданию фейковых предприятий – с веб-сайтами, электронными письмами и поддельной документацией – для мошенничества с людьми.
Борьба с международным вопросом
Чтобы бороться с этими достижениями в области злонамеренного использования ИИ, Meta адаптировала свое поведение и технические средства обнаружения для лучшей защиты пользователей на своих платформах.
Ранее в этом году компания разрушила камерунскую сеть, состоящую из 100 групп и примерно 12 000 аккаунтов в Facebook и Instagram, которые использовали ИИ для мошенничества с переселением животных. Сеть публиковала фальшивый контент об усыновлении домашних животных, чтобы заманить жертв, а затем требовала авансовых платежей под предлогом покрытия расходов на ветеринарную помощь, транспортировку или переселение.
Расследование Meta показало, что эти мошенники использовали искусственный интеллект для масштабирования своих операций, создания контента с учетом местоположения и сообщений, соответствующих культурным традициям, для улучшения таргетинга в США, Канаде, Австралии, Новой Зеландии и Великобритании.
Компания также удалила, отключила и отменила публикацию более 15 000 ресурсов в Facebook и Instagram, в которых использовались мошеннические персонажи, утверждающие, что они японские женщины, ищущие отношений с миллениалами и мужчинами старшего возраста, при этом некоторые аккаунты также продвигают контент, связанный с азартными играми. Заманив пользователей, эти мошенники перенаправляли разговоры на частные каналы, такие как Line или Messenger.
Расследование Меты показало, что операции имели широкий охват. Они базировались в основном в Китае, Мьянме, Колумбии, Филиппинах, Индонезии, США и Нигерии и ориентировались на пользователей в Японии и на других рынках.
Эти примеры не являются исключением. Криминальные мошеннические синдикаты теперь действуют как прибыльные корпорации, у которых есть каналы набора персонала, показатели эффективности и отделы исследований и разработок.
ИИ как меч и щит
Та же технология, которую мошенники используют в качестве оружия, также может быть использована, чтобы остановить их.
Компания Meta создала системы искусственного интеллекта, которые анализируют множество сигналов, таких как текст, изображения и окружающий контекст, чтобы выявлять сложные модели мошенничества, которые традиционные системы обнаружения не уловят.
Эти модели могут определить, когда мошенник выдает себя за общественного деятеля или бренд, путем анализа фальшивых настроений фанатов, вводящих в заблуждение биографий и обманчивых ассоциаций – своего рода контекстуальных подсказок, которые ни одна человеческая команда не может обработать со скоростью и масштабом, необходимыми для обеспечения безопасности большинства пользователей. Системы также могут обнаруживать контент, который перенаправляет пользователей на веб-страницы, имитирующие законные, и распознавать подделку домена до того, как люди будут раскрыты.
Однако даже несмотря на эти усилия, одни только технологии не могут решить проблему, коренящуюся в транснациональной организованной преступности.
Как правило, прежде чем мошенничество достигает платформы, преступники уже зарегистрировали домены, приобрели SIM-карты или построили физические соединения. В некоторых случаях мошенники используют поддельное банковское приложение, криптовалютный кошелек и учетную запись «мула» в одной стране и колл-центр в другой.
Ни одно учреждение не может увидеть мошенничество от начала до конца. В разобранном виде это выглядит так:
- Платформы видят мошеннический пост.
- Банки видят подозрительную транзакцию.
- Полиция знакомится с заявлением потерпевшего.
Мошенники работают, используя пробелы между этими учреждениями. Для устранения этих пробелов требуется обмен информацией между секторами в режиме реального времени, и в Азиатско-Тихоокеанском регионе появляются новые модели межсекторального сотрудничества для решения этих проблем.
Решающая роль партнерства и обмена разведданными
В сентябре 2025 года Государственное технологическое агентство Сингапура (GovTech Singapore) стало первым государственным учреждением в мире, присоединившимся к Global Signals Exchange (GSE), централизованной организации по анализу угроз, которая позволяет в режиме реального времени обмениваться разведданными о мошенничестве между правительством, платформами и финансовым сектором.
Это уже привело к значительному эффекту: в период с октября 2025 года по февраль 2026 года Meta удалила более 30 800 объектов и страниц, связанных с мошенничеством и мошенничеством, из Facebook и Instagram на основе сигналов URL-адресов, которыми GovTech Singapore поделилась через GSE. С тех пор обе организации внедрили автоматизированную систему отчетности, позволяющую выявлять угрозы и реагировать на них со скоростью машины, а не скорости человека.
Подобный обмен сигналами также способствует обеспечению правопорядка на местах. С декабря 2025 года Мета сотрудничала с Королевской полицией Таиланда и ФБР над проведением трех совместных недель дезорганизации, объединяя правоохранительные органы со всего мира для участия в учениях по обмену сигналами в реальном времени.
В мае 2026 года Meta, Microsoft, Coinbase, Starlink и другие ведущие технологические компании объединились с Министерством юстиции США, Королевской полицией Таиланда и мировыми правоохранительными органами, включая партнеров из правоохранительных органов в Австралии, Канаде, Индонезии, Японии и Малайзии, среди других, чтобы обмениваться информацией и разрушать преступные мошеннические сети в рамках совместных операций на территории США и Таиланда.
В результате операции были повреждены более миллиона онлайн-активов, в том числе 1,4 миллиона учетных записей, страниц и групп в Facebook и Instagram; 20 000 учетных записей Microsoft; и тысячи комплектов Starlink. Королевская полиция Таиланда также арестовала 63 человека, причастных к мошенничеству.
Эти усилия также служат основой для более широкой разработки многосторонней политики. На Цифровых неделях АТЭС 2026 года в Чэнду, Китай, компания Meta работала с представителями стран АТЭС и технологическими компаниями, чтобы изучить роль государственно-частного партнерства в усилении усилий по предотвращению мошенничества и мошенничества. В ходе обсуждений была признана важность комплексного экосистемного подхода и намечены практические пути для более глубокого частно-государственного сотрудничества.
Эти усилия помогают заинтересованным сторонам из разных секторов добиться значительного прогресса в разрушении сетей преступного онлайн-мошенничества и защите интернет-пользователей по всему миру.
Технологии, позволяющие обнаруживать и пресекать крупномасштабные мошенничества, существуют, и партнерства, направленные на использование общих данных, доказывают свою ценность. Что сейчас необходимо, так это обязательство – со стороны платформ, правительств, финансовых учреждений и правоохранительных органов – сделать этот уровень координации постоянным, а не эпизодическим.
Мошенничество затрагивает людей на разных платформах и в разных отраслях. Meta применяет комплексный подход к обеспечению безопасности своих платформ. Узнайте, как он работает, чтобы обеспечить безопасность пользователей при использовании его технологий.
