Microsoft превращает инструмент оценки безопасности противодействия искусственному интеллекту с открытым исходным кодом

Microsoft превратила свой инструмент оценки рисков безопасности AI, Counterfit, в открытый исходный код, что позволяет любому начать использовать этот инструмент бесплатно. В настоящее время организации могут использовать Counterfit для автоматизации оценки рисков безопасности, гарантируя, что используемая защита на должном уровне.

Изначально Microsoft разработала Counterfit как внутренний инструмент, позволяющий быстро оценивать безопасность систем искусственного интеллекта и машинного обучения. Сначала он представлял собой набор сценариев, а затем быстро превратился в универсальную автоматизацию ИИ, которую оператор может использовать для одновременной «атаки на несколько систем ИИ».

Microsoft теперь регулярно использует Counterfit в качестве основного инструмента в своей красной команде AI. Поскольку Counterfit не зависит от среды, модели и данных, инструмент может обеспечить точную оценку без сопротивления.

Сам инструмент предназначен для использования профессионалами в области безопасности. Counterfit использует рабочие процессы, аналогичные другим популярным инструментам красной команды, таким как Metasploit или PowerShell Empyre, с обширной поддержкой для создания сценариев, предварительно загруженных алгоритмов атак, сканирования уязвимостей, расширенного ведения журнала и т. д., доступ к которым осуществляется через командную строку.

Microsoft также активно работала со специалистами по безопасности и крупными организациями, чтобы улучшить Counterfit. На Блог о безопасности MicrosoftМатильда Роуд, старший исследователь кибербезопасности, Airbus, сказала:

ИИ все чаще используется в промышленности; Очень важно позаботиться о защите этой технологии, особенно для того, чтобы понять, где в проблемной области могут быть реализованы атаки пространства функций. Выпуск инструментов с открытым исходным кодом от такой организации, как Microsoft, для специалистов по безопасности для оценки безопасность систем искусственного интеллекта приветствуется и является четким признаком того, что отрасль решает эту проблему. шутки в сторону.

Вы можете найти открытый исходный код Microsoft Counterfit на их официальном GitHub.

Связанный: Работа, о которой вы никогда не знали, выполняла ИИ

Почему контрфит полезен?

Даже для компании размером с Microsoft провести эффективную оценку безопасности непросто, особенно когда эти компании являются огромными лидерами из списка Fortune 500, правительствами, некоммерческими организациями и т. Д. Предыдущее исследование Microsoft показало, что большое количество предприятий не могут точно протестировать свои системы искусственного интеллекта.

Мы обнаружили, что 25 из 28 компаний указали, что у них нет нужных инструментов для защиты своих систем искусственного интеллекта, и что специалисты по безопасности нуждаются в конкретных рекомендациях в этой области.

Counterfit упрощает выполнение этих оценок, автоматизируя процесс анализа и тестирования.

Связанный: Способы использования технологий искусственного интеллекта для улучшения вашего бизнеса

Кроме того, недавно опубликованный Исследование Gartner назвал внедрение безопасности ИИ одной из наиболее важных мер безопасности, которые компания может предпринять для улучшения защиты. В том же исследовании отмечалось, что «к 2024 году организации, внедряющие специальные средства управления рисками, связанные с ИИ, будут успешно избегать негативных последствий ИИ в два раза чаще, чем те, которые этого не делают».

Короче говоря, превращение Counterfit в инструмент оценки безопасности ИИ с открытым исходным кодом должно помочь сделать мир немного безопаснее.

Эти 4 антивирусных инструмента используют ИИ для защиты вашей системы

Обязательно ли включать в вашу следующую антивирусную подписку искусственный интеллект или это просто еще одно модное словечко о безопасности?

Читать далее

Об авторе