Развенчаны 9 мифов о чат-ботах с искусственным интеллектом

Обычно требуется время, чтобы мифы о любом предмете увековечились. О генеративных чат-ботах с искусственным интеллектом многое говорит тот факт, что так быстро возникло так много мифов.

Практически в мгновение ока чат-боты с искусственным интеллектом стали самой прорывной технологией века. Это также технология, окутанная спорами, и некоторые из них вызывают неподдельную озабоченность. Но мифы лежат в основе, по крайней мере, некоторых противоречий.

Давайте разделим факты и вымысел, изучая главные мифы об ИИ-чатботах.

1. Чат-боты с искусственным интеллектом разумны

Чат-боты, такие как ChatGPT и Bing Chat, могут генерировать человеческие ответы, но они далеки от разума. Эта способность — мимикрия, а не разум. Эти инструменты используют огромные базы данных текста и изображений для создания ответов, имитирующих человеческие ответы.

Это сложно, это умно, и в какой-то степени можно утверждать, что у него есть разум, но не разум. Любой «интеллектуальный потенциал», присутствующий в этих инструментах, создается путем их обучения на огромных объемах данных. В этом смысле они больше похожи на невероятно мощную и гибкую базу данных, чем на разумное существо.

2. Чат-боты могут обрабатывать любые типы задач или запросов

Хотя чат-боты можно рассматривать как технологический швейцарский армейский нож, существуют определенные ограничения в отношении того, чего они могут достичь. Это проявляется при работе со сложными или узкоспециализированными темами. Но даже простые задачи могут их сбить.

Например, развивающаяся область генеративных чат-ботов с искусственным интеллектом могла бы стать темой, которую вы могли бы подумать, что такие инструменты знаете все, но попробуйте задать ChatGPT вопрос об одном из его конкурентов, и ограничения сразу же очевидный:

Мы спросили его: «Какую большую языковую модель использует Google Bard?»

Теперь, чтобы внести ясность, у ChatGPT есть известные ограничения и возраст данных, на которые он может ссылаться. Этот вопрос был специально задан, чтобы разоблачить это. Однако мы задали Барду тот же вопрос, когда сравнение Google Bard и ЧатGPT, и он тоже ошибся:

Чат-боты могут быть умными, но они не способны выполнять какие-либо задачи и иногда терпят неудачу в самых простых вопросах.

3. Чат-боты представляют угрозу для человечества

Проблема здесь в том, что люди путают инструменты повышения производительности с Робокопом. Чат-боты могут представлять угрозу работе для некоторых людей и могут нарушить работу определенных отраслей. Но было бы преувеличением утверждать, что они представляют угрозу для человечества в целом.

В конечном счете, ИИ — это новая технология, за которой необходимо внимательно следить, чтобы она оставалась этичной и безопасной технологией. Но чат-боты не собираются править.

В этом случае мы не могли бы сказать лучше, чем ChatGPT.

Но так бы и сказал. Не так ли?

4. Чат-боты с искусственным интеллектом безошибочны

Нет ничего более далекого от правды. Поскольку сами инструменты прилагают большие усилия для объяснения, они могут генерировать неверную информацию. Проблема в том, что генеративные чат-боты с искусственным интеллектом полагаются на огромные базы данных, называемые большими языковыми моделями (LLM).

LLM содержат текст из самых разных источников, все, от литературы до сообщений в социальных сетях, включено в LLM. Это репозиторий, на который чат-боты ссылаются, чтобы предоставить свои ответы. Любые фактические ошибки, присутствующие в них, могут проявиться в ответах, которые они дают.

Галлюцинации ИИ — распространенная форма ошибки это слишком часто показывает, насколько ошибочны эти инструменты.

5. Чат-боты заменят человеческое взаимодействие

Ответ на этот вопрос можно найти в разделе, посвященном разуму. Чат-боты могут имитировать человеческие ответы и, безусловно, могут компетентно отвечать на фактические вопросы (в основном) и помогать во многих отношениях. Однако они не могут понять эмоции, человеческие переживания и многие нюансы разговора.

Человеческое взаимодействие представляет собой сложный и многоуровневый процесс, включающий такие элементы, как эмпатия, критическое мышление, эмоциональное понимание и интуиция. Ни один из этих атрибутов не присутствует в чат-ботах с генеративным искусственным интеллектом.

6. Чат-боты с искусственным интеллектом подходят только для текстовых взаимодействий

В этом есть хоть капля правды. Тем не менее, были достигнуты успехи в области генеративных чат-ботов с искусственным интеллектом, чтобы расширить их возможности за пределы простого текста.

Недавние разработки представили мультимодальные чат-боты, которые могут обрабатывать не только текст, но и включать другие взаимодействия, такие как изображения, видео и даже голосовые команды.

Скорость, с которой развиваются эти инструменты, является одной из причин этого мифа. Границы того, что может сделать эта технология, раздвигаются быстрыми темпами, и первоначальные итерации, которые были в основном текстовыми, уже считаются устаревшими.

7. Чат-боты всегда будут давать объективные ответы

К сожалению, это не случай. У чат-ботов с искусственным интеллектом всегда есть возможность предвзятых ответов. Корень проблемы можно проследить до LLM. Огромное количество данных, на которые ссылаются чат-боты, неизбежно содержит предвзятость. Эти предубеждения могут включать пол, расу, национальность и более широкие социальные предубеждения.

Хотя разработчики прилагают усилия, чтобы свести к минимуму предвзятость в ответах чат-ботов, задача невероятно сложна, и предвзятые ответы действительно просачиваются через сеть. Неизбежно, что эти «беспристрастные» методы будут улучшаться, а количество предвзятых ответов будет уменьшаться.

Однако, по крайней мере на данный момент, возможность предвзятых ответов остается нерешенной проблемой.

8. Чат-боты на самом деле настоящие люди

Возможно, самый нелепый миф заключается в том, что за каждым чат-ботом с искусственным интеллектом стоит настоящий человек. Этот идет по тонкой грани между теорией заговора и мифом, мы не будем останавливаться на этом, кроме как сказать, что это чепуха.

9. Чат-боты с искусственным интеллектом могут программировать себя

Чат-боты должны быть обучены и запрограммированы для выполнения своих задач почти так же, как любая часть программного обеспечения должна быть запрограммирована для выполнения определенных функций.

Хотя чат-боты с искусственным интеллектом используют методы машинного обучения для повышения своей производительности, они не обладают способностью программировать себя автономно.

Процесс обучения можно сравнить с процессом тестирования программного обеспечения без искусственного интеллекта. Обучение включает в себя предварительное определение их целей, проектирование их архитектуры и обучение их генерированию ответов на основе данных в соответствующем LLM. Весь этот прогресс по-прежнему требует вмешательства человека и опыта программирования.

Чат-боты с искусственным интеллектом: отделяем факты от вымысла

Быстрое распространение этих инструментов породило целый ряд мифов. Некоторые из них — абсолютная чушь, а в некоторых есть доля правды. Ясно то, что вокруг чат-ботов с искусственным интеллектом существует много дезинформации, которую необходимо прояснить.

Изучая факты и развенчивая вымысел, мы можем лучше понять истинные возможности и ограничения этих мощных инструментов. Чат-боты с ИИ не одиноки в быстро увековечивающих мифах, существует множество других мифов, циркулирующих об ИИ в целом.