Вы зарегистрировались в приложении для знакомств? Или вы ищете любовь в другом месте? Мошенники могут воспользоваться вами, используя искусственный интеллект. Вот как.
Приложения для онлайн-знакомств всегда были рассадником романтических афер. Киберпреступники делают все возможное, чтобы украсть деньги, личную информацию и откровенные фотографии. Вы найдете их поддельные профили повсюду.
А с распространением генеративных инструментов искусственного интеллекта мошенничество с романтическими отношениями становится еще проще. Они снижают входные барьеры. Вот семь распространенных способов, которыми мошенники используют искусственный интеллект, а также то, как вы можете защитить себя.
1. Отправка электронных писем, сгенерированных AI, в массовом порядке
Спам-письма становится все труднее фильтровать. Романтические мошенники злоупотребляют генеративными инструментами искусственного интеллекта, чтобы писать вводящие в заблуждение, убедительные сообщения и создавать несколько учетных записей в течение нескольких часов. Они приближаются к сотням почти мгновенно.
Вы будете видеть спам-сообщения, созданные искусственным интеллектом, на разных платформах, а не только в своем почтовом ящике. Возьмите мошенничество с неправильным номером В качестве примера. Мошенники массово рассылают милые селфи или непристойные фотографии. И если кто-то откликнется, они сочтут это невинной ошибкой.
Как только кто-то подключится к линии, он будет переведен на другую платформу обмена сообщениями (например, WhatsApp или Telegram). Большинство схем работают в течение нескольких недель. Мошенники постепенно завоевывают доверие, прежде чем предлагать жертвам участвовать в инвестиционных схемах, оплачивать счета или оплачивать поездки.
Оставайтесь в безопасности, полностью избегая спам-сообщений. Ограничьте общение с незнакомцами, независимо от того, как они выглядят или что они предлагают.
2. Быстрый ответ на большее количество разговоров
Боты распространяются в сети со скоростью лесного пожара. Имперва сообщает, что плохие боты составляли 30 процентов автоматизированного веб-трафика в 2022 году. Вы найдете его в течение нескольких секунд после просмотра матчей Tinder.
Одной из причин такого внезапного всплеска ботов является распространение инструментов генеративного ИИ. Они массово выпускают ботов. Просто введите правильное приглашение, и ваш инструмент предоставит полный и эффективный фрагмент кода для создания бота.
Знайте, когда вы разговариваете с ботом. Хотя ИИ использует естественный разговорный тон, его диалоги по-прежнему звучат монотонно и неловко. В конце концов, чат-боты просто следуют шаблонам. Он может давать аналогичные ответы на разные вопросы, заявления и просьбы.
3. Создание нескольких личностей из украденных изображений
Генераторы искусства ИИ манипулировать изображениями. Возьмите приведенную ниже демонстрацию в качестве примера. Мы скормили Playground AI откровенную фотографию известного певца — платформа выдала три варианта за считанные секунды.
Да, у них есть недостатки. Но обратите внимание, что мы использовали бесплатный инструмент с устаревшей моделью преобразования текста в изображение. Мошенники производят более реалистичные результаты с помощью сложных итераций. Они могут быстро визуализировать сотни настроенных, обработанных фотографий всего из нескольких образцов.
К сожалению, изображения ИИ трудно обнаружить. Лучше всего было бы сделать обратный поиск изображения и просеять соответствующие результаты.
4. Создание обманчиво выглядящих профилей
Боты массово приближаются к жертвам. Поэтому мошенники-романтики, предпочитающие таргетированную схему, создают всего один или два профиля, выглядящих подлинными. Они будут использовать ИИ, чтобы казаться убедительными. Генеративные инструменты искусственного интеллекта могут создавать аутентичные описания, которые звучат естественно и искренне; плохая грамматика больше не будет проблемой.
Вот ChatGPT, предлагающий несколько увлечений, которые можно указать в профиле знакомств.
И вот ChatGPT пишет всю биографию для вашего профиля знакомств.
Поскольку этот процесс занимает так много времени, он также требует большей отдачи. Таким образом, мошенники, как правило, просят больше. Как только они завоюют ваше доверие, они обратятся за помощью с различными «проблемами», такими как больничные счета, платежи по кредиту или плата за обучение. Некоторые даже заявят, что навещают вас, если вы возьмете на себя их билет.
Эти киберпреступники умеют манипулировать жертвами. Лучшая тактика — избегать общения с ними с самого начала. Не позволяйте им говорить что-либо. В противном случае вы можете постепенно попасться на их обман и методы газлайтинга.
5. Использование технологии Deepfake для сексуального вымогательства
ИИ совершенствовал инструменты для создания дипфейков с угрожающей скоростью. Новые технологии снижают мелкие дефекты в дипфейковых видео, такие как неестественное моргание, неравномерный оттенок кожи, искаженный звук и несовместимые элементы.
К сожалению, эти ошибки также служат красными флажками. Предоставление пользователям возможности удалять их усложняет различие между законными и поддельными видео.
Bloomberg показывает, как любой человек, обладающий базовыми техническими знаниями, может манипулировать своим голосом и визуальными эффектами, чтобы копировать других.
Помимо создания реалистичных профилей знакомств, мошенники используют дипфейковые инструменты для сексуального вымогательства. Они смешивают общедоступные фото и видео с порнографией. После манипулирования незаконным контентом они будут шантажировать жертв и требовать деньги, личные данные или сексуальные услуги.
Не сдавайся, если на тебя напали. Позвоните по телефону 1-800-CALL-FBI, отправьте сообщение ФБР или посетите местный офис ФБР, если вы окажетесь в такой ситуации.
6. Интеграция моделей ИИ с системами взлома методом грубой силы
Хотя языковые модели с открытым исходным кодом поддерживают некоторые усовершенствования ИИ, они также подвержены эксплуатации. Преступники воспользуются чем угодно. Вы не можете ожидать, что они будут игнорировать алгоритм очень сложных языковых моделей, таких как ЛАМА и OpenAssistant.
В романтических аферах хакеры часто интегрируют языковые модели со взломом паролей. Возможности NLP и машинного обучения ИИ позволяют системам взлома методом грубой силы быстро и эффективно создавать комбинации паролей. Они могли бы даже делать обоснованные прогнозы, если бы им предоставили достаточно контекста.
Вы не можете контролировать действия мошенников. Чтобы защитить свои учетные записи, убедитесь, что вы создать действительно безопасный пароль состоящий из специальных символов, буквенно-цифровых комбинаций и более 14 символов.
7. Имитация реальных людей с помощью клонирования голоса
Генераторы голоса ИИ начинались как крутая игрушка. Пользователи превращали образцы треков своих любимых исполнителей в каверы или даже новые песни. Возьмем, к примеру, Heart on My Sleeve. Пользователь ТикТок Автор-призрак977 написал суперреалистичную песню, имитирующую Дрейка и The Weeknd, хотя ни один из артистов ее не пел.
Несмотря на шутки и мемы вокруг него, синтез речи очень опасен. Это позволяет преступникам выполнять изощренные атаки. Например, мошенники в романтических отношениях используют инструменты клонирования голоса, чтобы звонить жертвам и оставлять вводящие в заблуждение записи. Жертвы, незнакомые с синтезом речи, ничего необычного не заметят.
Защитите себя от мошенничества с голосовыми клонами ИИ, изучив, как звучит синтезированный звук. Изучите эти генераторы. Они просто создают почти идентичные клоны — вы все равно заметите некоторые несовершенства и несоответствия.
Защитите себя от мошенников с искусственным интеллектом
По мере развития генеративных инструментов искусственного интеллекта мошенники будут разрабатывать новые способы их использования. Разработчики не могут остановить этих преступников. Играйте активную роль в борьбе с киберпреступлениями, а не просто полагайтесь на то, что ограничения безопасности работают. Вы по-прежнему можете использовать приложения для знакомств. Но убедитесь, что вы знаете человека по ту сторону экрана, прежде чем взаимодействовать с ним.
И следите за другими схемами с помощью ИИ. Помимо романтических афер, преступники используют ИИ для кражи личных данных, кибер-вымогательства, шантажа, атак программ-вымогателей и взлома методом грубой силы. Научитесь также бороться с этими угрозами.