В области искусственного интеллекта прогресс достигается на беспрецедентном уровне, и почти каждую неделю появляются новые разработки. Инструменты генеративного ИИ, такие как ChatGPT, сейчас настолько популярны, что их интегрируют повсюду.
Но должны ли мы? Использование технологии ИИ для повышения производительности, образования и развлечений имеет смысл. Однако сейчас компании думают о том, чтобы поместить его прямо в наши приложения для обмена сообщениями, и это может оказаться разрушительным. Вот семь причин почему.
1. Чат-боты с искусственным интеллектом склонны к галлюцинациям
Если вы использовали ChatGPT, Bing или Bard, вы знаете, что генеративные чат-боты склонны к «галлюцинациям». Галлюцинация ИИ — это когда эти чат-боты выдумывают из-за отсутствия адекватных обучающих данных по запросу, запрошенному пользователем.
Другими словами, они распространяют дезинформацию, но звучат уверенно, как будто это факт. Это большая проблема, потому что многие люди не проверяют факты при использовании чат-бота и считают, что он точен по умолчанию. Это один из самых больших
ошибки, которых следует избегать при использовании инструментов ИИ.Когда они помещаются в приложения для обмена сообщениями, количество вреда, которое они могут нанести, еще больше, поскольку люди могут использовать их для (преднамеренно или непреднамеренно) распространять дезинформацию среди своих контактов и в социальных сетях, распространять пропаганду и создавать эхо камеры.
2. Люди не любят разговаривать с ботами
Подумайте, как это раздражает, когда вы пытаетесь связаться со службой поддержки клиентов компании, и вас заставляют разговаривать с чат-бот вместо реального человека-руководителя, который действительно может понять нюансы вашей проблемы и предложить соответствующие руководство.
То же самое относится и к личным беседам. Представьте, что вы разговариваете со своим другом, и на полпути вы понимаете, что он использует ИИ для отвечать на ваши сообщения все это время вместо того, чтобы делать это самостоятельно, основываясь на своих мыслях и мнения.
Если вы похожи на большинство людей, вы сразу обидитесь и воспримете использование ИИ в приватном разговоре как бесчувственным, жутким и даже пассивно-агрессивным, как будто другой человек не считает вас достойным своего времени, внимания и сочувствие.
Например, использование ИИ для написания электронных писем понятно, поскольку это профессиональное взаимодействие, но никто не захочет поощрять его использование в личных беседах. Как только новизна технологии исчезнет, использовать ее в этом контексте станет грубо.
3. ИИ не может скопировать ваш уникальный тон
Инструменты генеративного ИИ уже сегодня позволяют вам изменять тональность вашего сообщения, например, формальную, веселую или нейтральную, в зависимости от того, кому вы пишете и как вы хотите произвести впечатление. Magic Compose в сообщениях Google, например, позволяет сделать то же самое.
Хотя это хорошо, обратите внимание, что эти тональности обучаются на основе заданных данных обучения, а не вашей личной истории чата, поэтому он не может воспроизвести вашу уникальную тональность или смайлики, которые вы обычно используете.
Вас это может не сильно волновать, особенно если вы используете ИИ для написания простых рабочих электронных писем, для которых все более или менее используют одинаковую формальную тональность. Но это имеет гораздо большее значение, чем вы можете себе представить, используя его для общения с друзьями и семьей в приложении для обмена сообщениями.
До тех пор, пока инструменты ИИ не позволят вам обучать их языковую модель на основе вашей истории чата, они не смогут воспроизвести ваш уникальный диалект и эксцентричность. Тем не менее, эту проблему не так уж сложно решить, поэтому мы можем увидеть, как она будет реализована в ближайшее время.
4. Написание хороших подсказок требует времени
Получение желаемых результатов от чат-бота с искусственным интеллектом во многом зависит от качества вашей подсказки. Если вы напишете плохую подсказку, вы получите плохой ответ, и вам придется уточнять подсказку, пока вы не получите удовлетворительный результат.
Этот процесс имеет смысл, когда вы хотите написать подробный контент, но крайне неэффективен при написании нескольких коротких ответов в неформальной беседе.
Время, которое может потребоваться для уточнения ваших подсказок и получения полезных ответов, в большинстве случаев будет больше, чем время, которое потребовалось бы вам, если бы вы просто писали сообщения самостоятельно.
5. ИИ может привести к наступательным результатам
Помимо точности, предвзятость является одним из самые большие проблемы с генеративным ИИ. Некоторые люди считают ИИ беспристрастным, поскольку у него нет собственных мотивов. Однако люди, стоящие за этими инструментами ИИ, в конечном счете, люди со своими предубеждениями.
Другими словами, предвзятость встроена в систему. ИИ по своей сути не понимает, что считается оскорбительным, а что нет, поэтому его можно, например, обучить быть предвзятым по отношению к определенным группам людей или определенным культурам, что приводит к оскорбительным результатам в этом процессе.
6. ИИ может не понимать сарказма или юмора
Понимание ИИ фигур речи, таких как ирония и метафора, со временем улучшается, но все еще далеко от того уровня, когда его можно использовать в разговоре для распознавания юмора. Например, когда мы попросили Барда Google быть саркастичным, результаты были случайными.
В некоторых случаях это было действительно смешно и подыгрывало моему сарказму. Но в других случаях он либо по умолчанию возвращался к несмешному стандартному ответу, либо просто отказывался отвечать. полностью участвовать в разговоре, говоря, что, поскольку это всего лишь LLM, он не может помочь мне с моим запрос.
7. Использование ИИ может привести к плохой коммуникации
Еще одна тонкая, но существенная проблема с интеграцией генеративного ИИ в приложения для обмена сообщениями заключается в том, как он может повлиять на нашу способность общаться. Если мы будем все больше полагаться на ИИ для общения друг с другом, это может помешать нашей способности тренировать наш эмоциональный интеллект и социальные навыки.
Дело в том, что чем больше мы передаем наши социальные нужды на аутсорсинг ИИ, тем хуже мы становимся в передаче идей через органические средства. Другими словами, чем больше вы используете ИИ для общения со своими контактами, тем больше вероятность того, что вы ухудшите качество своих отношений.
Не все должно иметь ИИ
Часто с появлением новых технологий мы настолько заняты выяснением того, как их использовать, что не можем поспорить, должны ли мы их использовать в первую очередь.
Хотя использование генеративного ИИ для написания электронных писем, мозгового штурма или создания изображений для презентаций имеет смысл, его интеграция в приложения для обмена сообщениями вызывает много критики.
