Как можно использовать компьютерное зрение для обнаружения фишинговых атак?

Развитие платформ искусственного интеллекта, таких как ChatGPT, привело к тому, что технология стала достоянием общественности. Любите ли вы его, ненавидите или боитесь, ИИ всегда с вами. Но ИИ представляет собой нечто большее, чем просто умный чат-бот. За кулисами он используется многими инновационными способами.

Одним из таких способов является использование компьютерного зрения (CV) на базе ИИ в качестве еще одного уровня кибербезопасности. Давайте посмотрим, как CV помогает против фишинговых атак.

Что такое компьютерное зрение?

Компьютерное зрение по своей концепции похоже на большие языковые модели, такие как GPT-4. Такие инструменты, как ChatGPT и Bing Chat, используют эти огромные текстовые базы данных, чтобы генерировать человеческие ответы на вводимые пользователем данные. CV использует ту же концепцию, только с массивным хранилищем данных изображения.

Но CV сложнее, чем просто иметь огромную базу визуальных материалов. Контекст является критическим фактором, который необходимо включить в уравнение.

большие языковые модели, лежащие в основе чат-ботов с искусственным интеллектом, работают с использованием глубокого обучения чтобы понять такие факторы, как контекст. Точно так же CV использует глубокое обучение для понимания контекста изображений. Это можно описать как человеческое зрение на скорости компьютера.

Но как CV помогает обнаруживать фишинговые атаки?

Как компьютерное зрение используется для обнаружения фишинговых атак

Фишинговые атаки — одна из самых популярных тактик кибербезопасности, используемых мошенниками. Традиционные методы их обнаружения далеки от совершенства, а угрозы становятся все более изощренными. CV стремится закрыть одну из известных уязвимостей — время. В частности, использование черных списков более «традиционных» методов.

Проблема здесь в том, что поддерживать черные списки в актуальном состоянии проблематично. Даже нескольких часов между запуском фишингового веб-сайта и его включением в черный список достаточно, чтобы нанести большой ущерб.

CV не использует черные списки и не обнаруживает встроенный вредоносный код. Вместо этого он использует несколько методов для пометки подозрительных элементов.

1. Изображения собираются из соответствующих электронных писем, веб-страниц или других источников, которые могут содержать угрозы. Затем они обрабатываются с помощью компьютерного зрения.
2. На этапе обработки изображения исследуются четыре основных элемента: обнаружение логотипа/торговой марки, обнаружение объекта/сцены, обнаружение текста и визуальный поиск.
3. Они проверяются с помощью процесса под названием «Агрегация элементов риска», и в результатах отмечаются подозрительные элементы.

Давайте подробнее рассмотрим, как CV находит подсказки в исследуемых элементах.

Обнаружение логотипа/торговой марки

Подделка бренда — распространенный метод, используемый мошенниками. Компьютерное зрение запрограммировано на обнаружение логотипов, которые обычно используются мошенниками, но оно также может сочетать эту информацию с содержанием и приоритетом электронной почты.

Например, электронное письмо, помеченное как срочное с логотипом банка, может быть помечено как потенциально мошенническое. Он также может проверить подлинность логотипа на соответствие ожидаемым результатам из хранилища данных CV.

Обнаружение объекта

Мошенники часто преобразуют такие объекты, как кнопки или формы, в графику. Это делается с использованием различных графических и кодовых методов, предназначенных для «замутнения воды». Кроме того, зашифрованные сценарии можно использовать для выполнения таких действий, как создание форм, но только после того, как электронное письмо или веб-сайт будут обработаны.

Обнаружение объектов ищет визуальные подсказки после отображения веб-сайта или электронной почты. Он может обнаруживать такие объекты, как кнопки или формы, даже в графическом формате. Кроме того, поскольку он проверяет после отображения электронной почты или веб-сайта, проверяются зашифрованные элементы.

Обнаружение текста

Точно так же текст можно замаскировать, используя ряд методов. Среди популярных тактик, используемых мошенниками:

• Заполнение слов случайными буквами, которые удаляются при отображении страницы или электронного письма.
• Маскировка слов путем их неправильного написания. Типичным примером является Логин, который можно легко замаскировать, заменив L на заглавную I, как в — Иогин. Не могли бы Вы сказать?
• Преобразование текста в графику.

CV может использовать текстовый анализ (немного похожий на оптическое распознавание символов, но на стероидах!) для обнаружения триггерных слов, таких как пароль, данные учетной записи и логин. Опять же, поскольку он запускается после рендеринга, весь текст может быть захвачен и отсканирован.

Визуальный поиск

Хотя это часть антифишингового инструментария CV, для работы он использует справочные данные. Следовательно, он хорош настолько, насколько хороши данные, которые он имеет в записи. Это оставляет ее с той же ахиллесовой пятой, что и любую другую систему, основанную на черном списке.

Он работает, сохраняя «шаблон» известных хороших изображений (KGI) и известных плохих изображений (KBI) в базе данных изображений. Затем эту информацию можно использовать для выполнения сравнений для обнаружения аномалий.

Является ли Computer Vision автономной системой защиты от фишинга?

Короткий ответ - нет." В настоящее время CV действует как дополнительный уровень безопасности и является приемлемым вариантом только для коммерческих предприятий.

Однако для этих предприятий CV добавляет новый уровень безопасности, который позволяет сканировать объекты в режиме реального времени, не полагаясь на черные списки или обнаруживая закодированные угрозы. А в продолжающейся гонке вооружений между мошенниками и профессионалами в области безопасности это может быть только на пользу.

Забегая вперед, можно сказать, что внезапный и стремительный рост чат-ботов на основе ИИ, таких как ChatGPT, показывает, насколько сложными являются прогнозы при обсуждении любой формы ИИ. Но давайте все же попробуем!

Каково будущее компьютерного зрения как средства защиты от фишинга?

Хотя маловероятно, что она окажет такое же сильное влияние, как чат-боты на базе ИИ, антифишинговая защита CV уже уверенно продвигается вперед. концепция, известная как кривая внедрения технологии.

Не так давно эта технология была прерогативой крупных предприятий, у которых была сетевая инфраструктура и пропускная способность, чтобы использовать ее либо как облачное решение, либо как локальную службу.

Это уже не так.

Теперь предприятиям любого размера доступны более практичные услуги подписки. Не менее важной в эпоху облачных вычислений является возможность защитить любое устройство из любого места. Теперь это опция со многими услугами.

Однако, если вы хотите добавить это на свой домашний компьютер, это пока нереалистичный вариант. «Пока» здесь ключевое слово. Экспоненциальный рост сложности и доступности моделей ИИ почти наверняка принесет эту функциональность домашнему пользователю.

Единственный реальный вопрос — когда.

Компьютерное зрение: видеть значит защищать

В последнее время ИИ часто упоминается в новостях, и в центре внимания такие платформы, как ChatGPT, Bing Chat и Google Bard. Это прорывные технологии, которые, когда пыль наконец уляжется, радикально изменят то, как мы получаем доступ к информации и что мы можем с ней делать.

В то время как они, несомненно, захватывают заголовки, менее разрушительные технологии, такие как CV, тихо создают мягкие волны на заднем плане. И все, что помогает остановить растущую пагубу фишинговых атак, должно быть хорошим делом.