Что такое FraudGPT? Как защитить себя от этого опасного чат-бота

Возникновение искусственного интеллекта (ИИ) — палка о двух концах. Как и любая преобразующая технология, ИИ предлагает огромный потенциал, но также и огромные риски. Несмотря на решительные усилия по регулированию ИИ, злоумышленники, похоже, опередили кривую.

Новый инструмент в стиле ChatGPT, FraudGPT, набирает популярность среди киберпреступников, позволяя им автоматизировать и лучше выполнять большую часть своих мошеннических операций. Жертвой может стать каждый, поэтому важно быть в курсе. Вот все, что мы знаем о FraudGPT на данный момент.

Что такое FraudGPT?

FraudGPT — это инструмент искусственного интеллекта, основанный на большой языковой модели, специально настроенной для помощи киберпреступникам в совершении киберпреступлений. Инструмент искусственного интеллекта на основе подписки позволяет злоумышленникам облегчить свои преступные действия, такие как карточные платежи, фишинг и создание вредоносных программ.

Хотя подробности об этом инструменте остаются очень ограниченными, исследователи из Netenrich, исследовательской фирмы по безопасности, обнаружили в даркнете несколько объявлений, рекламирующих этот инструмент. Согласно исследовательский отчет от Netenrich, стоимость подписки варьируется от 200 долларов в месяц до 1700 долларов в год.

Чтобы лучше представить инструмент, вы можете думать о FraudGPT как о ChatGPT, но для мошенничества. Но как именно работает FraudGPT и как его используют киберпреступники?

Как работает FraudGPT?

По своей сути FraudGPT мало чем отличается от любого инструмента, основанного на большой языковой модели. Другими словами, сам инструмент представляет собой интерактивный интерфейс для доступа преступников к особой языковой модели, настроенной для совершения киберпреступлений.

Все еще не понял? Вот приблизительное представление о том, о чем мы говорим. В первые дни запуска ChatGPT чат-бот с искусственным интеллектом можно было использовать практически для чего угодно, включая помощь киберпреступникам в создании вредоносных программ. Это стало возможным, потому что базовая языковая модель ChatGPT была обучена на наборе данных, который, вероятно, содержал образцы широкого спектра данных, включая данные, которые могли бы помочь преступному предприятию.

Большие языковые модели обычно питаются всем, начиная от хороших вещей, таких как научные теории, информация о здоровье и политика, до не очень хороших, таких как образцы вредоносного кода, сообщения от карточных и фишинговых кампаний и другие криминальные материалы. При работе с типами наборов данных, необходимых для обучения языковых моделей, таких как те, которые используются в ChatGPT, почти неизбежно, что модель будет содержать образцы нежелательных материалов.

Несмотря на типичные кропотливые усилия по устранению нежелательных материалов в наборе данных, некоторые из них проскальзывают, и их обычно достаточно, чтобы дать модели возможность генерировать материалы для облегчения киберпреступность. Вот почему с правом быстрый инжиниринг, вы можете получить такие инструменты, как ChatGPT, Google Bard и Bing AI, которые помогут вам писать мошеннические электронные письма или компьютерные вредоносные программы.

Если такие инструменты, как ChatGPT, могут помочь киберпреступникам совершать преступления, несмотря на все усилия по обеспечению безопасности этих чат-ботов с искусственным интеллектом, подумайте теперь о мощность такого инструмента, как FraudGPT, мог бы принести, учитывая, что он был специально настроен на вредоносные материалы, чтобы сделать его подходящим для киберпреступность. Это похоже на злого близнеца ChatGPT, которого подсадили на стероиды.

Таким образом, чтобы использовать этот инструмент, преступники могли просто подсказать чат-боту, как они сделали бы с ChatGPT. Они могут попросить его, скажем, написать фишинговое письмо для Джейн Доу, которая работает в компании ABC, или, может быть, попросить его написать вредоносное ПО на C++ для кражи всех файлов PDF с компьютера с Windows 10. Преступники в основном просто придумывали злую механизацию и позволяли чат-боту делать тяжелую работу.

Как вы можете защитить себя от FraudGPT?

Несмотря на то, что это новый тип инструмента, угроза, исходящая от FraudGPT, принципиально не отличается. Можно сказать, что это повышает автоматизацию и эффективность уже установленных методов совершения киберпреступлений.

Преступники, использующие этот инструмент, смогут, по крайней мере теоретически, писать более убедительные фишинговые электронные письма, лучше планировать мошенничества и создавать более эффективные вредоносные программы, но в основном они по-прежнему полагаются на установленные способы выполнения своих гнусных планы. В результате по-прежнему применяются установленные способы защиты:

• Остерегайтесь нежелательных сообщений с просьбами предоставить информацию или указаниями перейти по ссылкам. Не предоставляйте информацию и не переходите по ссылкам в этих сообщениях, если вы не подтвердите источник.
• Свяжитесь с компаниями напрямую, используя независимый проверенный номер, чтобы проверить законность. Не используйте контактную информацию, указанную в подозрительных сообщениях.
• Используйте надежные, уникальные пароли, которые трудно взломать и используйте двухфакторную аутентификацию, когда она доступна для всех учетных записей. Никогда не сообщайте пароли или коды, отправленные вам.
• Регулярно проверяйте выписки по счетам на предмет подозрительной активности.
• Обновляйте программное обеспечение и используйте антивирусы или средства защиты от вредоносных программ.
• Уничтожайте документы, содержащие личную или финансовую информацию, когда они больше не нужны.

Чтобы узнать больше о том, как защитить себя, прочитайте наше руководство по как защитить себя в эпоху ИИ.

Будьте в курсе, чтобы защитить себя

Появление таких инструментов, как FraudGPT, напоминает нам о том, что, несмотря на всю пользу, которую ИИ может сделать для нас, он по-прежнему представляет собой очень мощный инструмент в руках злоумышленников.

По мере того, как правительства и крупные компании, занимающиеся ИИ, участвуют в безумной гонке за внедрением более эффективных способов регулирования ИИ, важно знать об угрозе, которую в настоящее время представляет ИИ, и принимать необходимые меры предосторожности для защиты сам.