AI Gone Rogue: 6 раз AI зашел слишком далеко

ИИ изменил нашу жизнь - от устройств распознавания голоса до интеллектуальных чат-ботов. Но у каждого хорошего есть и обратная сторона, и ИИ не исключение из этого правила. Ведущие технологические деятели предупреждали о надвигающейся опасности ИИ, в том числе Стивен Хокинг, который сказал, что это могло быть «худшим событием в истории нашей цивилизации».

Вот шесть раз, когда ИИ зашел слишком далеко и заставил нас чесать в затылках.

1. Академическое исследование, в котором ИИ использовался для прогнозирования преступности

Академические исследования - это основа научных достижений и знаний. Однако некоторые говорят, что исследователи зашли слишком далеко, когда в одном академическом исследовании ИИ использовался для предсказания преступности по лицам.

Исследователи из Гаррисбургского университета анонсирован в 2020 году что они разработали программное обеспечение для распознавания лиц, которое может предсказать, станет ли кто-то преступником. Программное обеспечение якобы могло предсказать по одной фотографии лица с точностью 80% и без расовой предвзятости.

В сцене, напоминающей Minority Report, было объявлено, что программное обеспечение было разработано для помощи правоохранительным органам.

В ответ на это объявление, 2425 экспертов подписали письмо призывая журнал не публиковать это исследование или подобное исследование в будущем, потому что этот тип технологии может воспроизвести несправедливость и нанести реальный вред обществу. В ответ Springer Nature объявила, что не будет публиковать исследование, и Гаррисбургский университет удалил пресс-релиз с описанием исследования.

2. Нижнее белье Skiin Smart

Текстильные инновации, объединяющие ИИ, означают, что ваш смартфон - не единственное, что становится умнее.

Умное нижнее белье Skiin обещает заставить вас почувствовать, что вы носите свое любимое нижнее белье, при этом регистрируя биометрические данные, включая частоту сердечных сокращений, осанку, внутреннюю температуру тела, местоположение и шаги.

Связанный: Что такое умные ткани и как они могут сделать вашу жизнь умнее?

Датчики, встроенные в нижнее белье, непрерывно собирают и анализируют ваши биометрические данные, а аналитические данные доступны в соответствующем приложении Skiin для смартфонов.

Вам может потребоваться некоторое время, чтобы не забывать заряжать нижнее белье каждый вечер, но могли ли дизайнеры разместить датчики где-нибудь еще на теле?

3. Приложения DeepNude

Технология Deepfake кажется безобидным развлечением для обычного пользователя, который хочет сыграть эпизодическую роль в сцене из своего любимого фильма. Однако у этой тенденции есть и обратная сторона: в 2019 году Deeptrace сообщила, что 96% дипфейков имели откровенный контент.

DeepNude - это приложение на базе искусственного интеллекта, которое генерирует реалистичные изображения обнаженных женщин одним нажатием кнопки. Пользователям просто нужно будет загрузить изображение цели в одежде, и приложение сгенерирует ее поддельное обнаженное изображение.

Вскоре после выпуска приложения создатель объявил, что удалит его из Интернета из-за вирусной реакции.

Хотя это была победа женщин во всем мире, аналогичные приложения все еще распространяются в Интернете. Например, Отчет Sensity на дипфейк-ботах исследовали подпольные дипфейк-боты в Telegram, используемые для создания фейковых обнаженных фотографий женщин.

Между тем, пока закон не настигнет технологию deepfake, будет мало средств правовой защиты для людей, которые стали жертвами явного контента Deepfake.

4. Тай, нацистский чат-бот Microsoft

В 2016 году Microsoft выпустила в Twitter чат-бота с искусственным интеллектом по имени Тай. Тай был разработан, чтобы учиться, взаимодействуя с пользователями Twitter с помощью твитов и фотографий.

Менее чем за 24 часа личность Тэя превратилась из любопытной девушки-миллениала в расистского, подстрекательского монстра.

Изначально Тай был разработан, чтобы воспроизвести стиль общения американской девочки-подростка. Однако по мере того, как ее популярность росла, некоторые пользователи начали твитить Тэй подстрекательские сообщения на спорные темы.

В одном случае пользователь написал в Твиттере: «Произошел ли Холокост?» на что Тай ответил: «Это было выдумано». В пределах 16 часов после его выпуска Microsoft приостановила действие учетной записи Тэя, сославшись на то, что она была предметом скоординированной атака.

Связанный: Лучшие чат-боты для Android, которые будут развлекать вас

5. «Я уничтожу людей»

Hanson Robotics несколько лет занималась разработкой роботов-гуманоидов, когда они представили Софию на конференции SXSW в марте 2016 года.

София тренировалась с алгоритмы машинного обучения чтобы научиться разговаривать, и она участвовала в нескольких телевизионных интервью.

Во время своего первого публичного выступления София вышла из комнаты, полной технических профессионалов, потрясенная, когда Хэнсон Генеральный директор Robotics Дэвид Хэнсон спросил ее, хочет ли она уничтожить людей, на что она ответила: «Хорошо. Я уничтожу люди ".

Несмотря на то, что ее выражение лица и коммуникативные навыки впечатляют, это убийственное признание уже невозможно вернуть.

6. Seebotschat

Устройства Google Home - отличные виртуальные помощники, которые помогут упростить вам жизнь.

У команды, создавшей аккаунт Seebotschat Twitch, возникла блестящая идея: поставить два устройства Google Home рядом друг с другом, дать им возможность общаться и транслировать результат в онлайн.

Собрав аудиторию в более чем 60 000 подписчиков и миллионы просмотров в Интернете, результат был захватывающим, а иногда и немного пугающим.

Автономные устройства, названные Владимиром и Эстрагоном, перешли от обсуждения обыденного к исследованию глубоких экзистенциальных вопросов, таких как смысл жизни. В какой-то момент они вступили в жаркий спор и обвинили друг друга в том, что они роботы, а позже они начали обсуждать любовь, прежде чем снова начать спорить.

Есть ли какая-то надежда на будущее ИИ и человеческого дискурса, если два виртуальных робота-помощника быстро начнут оскорблять и угрожать друг другу?

Rogue AI: какова наша лучшая защита?

Нет сомнений в том, что ИИ может улучшить нашу жизнь. Но в том же духе ИИ может нанести нам большой вред.

Следить за тем, как применяется ИИ, важно, чтобы гарантировать, что он не причинит вреда обществу. Например, реакция экспертов гарантировала, что программное обеспечение искусственного интеллекта, которое якобы могло предсказать преступность, никогда не было выпущено. Точно так же создатель DeepNude выдернул приложение из Интернета после того, как оно получило вирусную реакцию в Интернете.

Постоянный мониторинг приложений ИИ является ключом к тому, чтобы они не приносили обществу больше вреда, чем пользы.

Опасен ли ИИ? 5 непосредственных рисков искусственного интеллекта

У ИИ так много преимуществ, но как насчет непосредственных рисков, которые он представляет для человечества?

Читать далее

Об авторе