Кто еще не использовал ChatGPT? Это весело, абсолютно увлекательно, если вы интересуетесь искусственным интеллектом, и бесплатно (пока).
Хотя ChatGPT обычно называют чат-ботом, это гораздо больше. Он может создавать тексты, объяснять сложные темы, выступать в качестве переводчика, придумывать шутки и писать код. Но он также может быть использован в качестве оружия злоумышленниками.
Как работает ChatGPT и почему он привлекателен для киберпреступников
ChatGPT (Generative Pre-trained Transformer) был разработан исследовательской лабораторией искусственного интеллекта OpenAI и запущен в ноябре 2022 года. Это большая языковая модель, в которой используется комбинация методов машинного обучения с учителем и с подкреплением.
Возможно, что более важно, ChatGPT постоянно настраивается и обучается пользователями, которые могут голосовать или понижать его ответы, делая его еще более точным и мощным, поскольку он собирает данные самостоятельно.
Именно это отличает ChatGPT от других чат-ботов. И если вы когда-либо им пользовались, то знаете, что разница заметна сразу: в отличие от других подобных продуктов, он способен активно участвуйте в беседе и выполняйте сложные задачи с потрясающей точностью, обеспечивая при этом связность и человечность. ответы.
Если бы вам показали короткое эссе, написанное человеком, а также сочинение, написанное ChatGPT, вы, вероятно, затруднились бы определить, что есть что. В качестве примера, вот часть текста, сгенерированного ChatGPT, когда ему сказали написать короткое эссе о «Над пропастью во ржи».
Это не означает, что у ChatGPT нет ограничений — они, безусловно, есть. Чем больше вы его используете, тем больше вы заметите, что это так. Каким бы мощным он ни был, он все же может бороться с элементарной логикой, делать ошибки, делиться ложными и вводящими в заблуждение сведениями. информацию, комично неверно истолковывать инструкции и поддаваться манипуляциям, заставляя рисовать неправильные заключение.
Но сила ChatGPT заключается не в его способности общаться. Скорее, это заключается в его почти безграничной способности выполнять задачи в массовом порядке, более эффективно и намного быстрее, чем это может сделать человек. С помощью правильных входных данных и команд, а также нескольких творческих обходных путей ChatGPT можно превратить в невероятно мощный инструмент автоматизации.
Имея это в виду, нетрудно представить, как киберпреступник может использовать ChatGPT в качестве оружия. Все дело в том, чтобы найти правильный метод, масштабировать его и заставить ИИ выполнять как можно больше задач одновременно, с несколькими учетными записями и на нескольких устройствах, если это необходимо.
5 вещей, которые злоумышленники могут сделать с помощью ChatGPT
Уже есть несколько реальных примеров использования ChatGPT злоумышленниками, но это более скорее всего, он вооружается различными способами или будет в какой-то момент будущее. Вот пять вещей, которые хакеры могут делать (и, вероятно, делают) с ChatGPT.
1. Написать вредоносное ПО
Если ChatGPT может писать код, он может писать вредоносное ПО. Ничего удивительного. Но это не просто теоретическая возможность. В январе 2023 года компания Check Point Research, занимающаяся кибербезопасностью, обнаружила, что киберпреступники уже использование ChatGPT для написания вредоносных программ— и хвастаться этим на подпольных форумах.
Угроза, обнаруженная Check Point Research, использовала продвинутый чат-бот довольно творчески, чтобы воссоздать вредоносное ПО на основе Python, описанное в некоторых исследовательских публикациях. Когда исследователи тестировали вредоносную программу, киберпреступник говорил правду: его вредоносное ПО, созданное с помощью ChatGPT, делало именно то, для чего оно было разработано.
2. Создание фишинговых писем
Какими бы мощными ни были спам-фильтры, опасные фишинговые письма все еще проскальзывают сквозь трещины, и обычный человек мало что может сделать, кроме как сообщить об отправителе своему провайдеру. Но способный злоумышленник может многое сделать со списком рассылки и доступом к ChatGPT.
С правильными командами и предложениями ChatGPT может генерировать убедительные фишинговые электронные письма, потенциально автоматизируя процесс для субъекта угрозы и позволяя им масштабировать свои операции.
3. Создавайте мошеннические сайты
Если вы просто введете в Google термин «создать веб-сайт с помощью ChatGPT», вы найдете множество руководств, в которых подробно объясняется, как это сделать. Хотя это хорошая новость для всех, кто хочет создать веб-сайт с нуля, это также хорошая новость для киберпреступников. Что мешает им использовать ChatGPT для создания множества мошеннических сайтов или фишинговых целевых страниц?
Возможности почти безграничны. Злоумышленник может клонировать существующий веб-сайт с помощью ChatGPT, а затем изменять его, создавать поддельные веб-сайты электронной коммерции, запускать сайт с мошенническими программами, и так далее.
4. Создать спам-контент
Чтобы создать поддельный веб-сайт, запустить мошенническую страницу в социальной сети или создать сайт-подражатель, вам нужен контент — много. И он должен выглядеть как можно более законным, чтобы мошенничество сработало. Зачем злоумышленникам нанимать авторов контента или писать сообщения в блогах самостоятельно, если они могут просто попросить ChatGPT сделать это за них?
Конечно, веб-сайт с контентом, созданным ИИ, скорее всего, будет довольно быстро оштрафован Google и не появится в результатах поиска. но есть много разных способов, которыми хакер может продвигать веб-сайт, направлять на него трафик и выманивать у людей их деньги или деньги. украсть их личную информацию.
5. Распространение дезинформации и фейковых новостей
Дезинформация в Интернете стала серьезной проблемой в последние годы. Фальшивые новости распространяются в социальных сетях со скоростью лесного пожара, и люди, которые ничего не знают, часто попадаются на вводящие в заблуждение, а иногда и буквально выдуманные истории. Это может иметь ужасные последствия в реальной жизни, и кажется, что никто понятия не имеет, как остановить распространение фейковых новостей не нарушая законов о свободе слова.
Такие инструменты, как ChatGPT, могут усугубить эту проблему. Злоумышленники, имеющие доступ к программному обеспечению, способному ежедневно генерировать тысячи фальшивых новостей и постов в социальных сетях, кажется верным путем к катастрофе.
Не верьте нам на слово
Если вы не уверены, мы спросили ChatGPT, как киберпреступник будет его использовать. Кажется, он согласен с сутью этой статьи.
В чужих руках ChatGPT становится опасным
Можно только представить, на что будет способен искусственный интеллект через пять-десять лет. На данный момент лучше игнорировать ажиотаж и панику и рационально оценивать ChatGPT.
Как и все технологии, ChatGPT по своей сути не является ни полезным, ни вредным. Несмотря на некоторые недостатки, это, безусловно, самый функциональный чат-бот, когда-либо выпущенный для публики.