ИИ обладает невероятным потенциалом, но у него есть и свои недостатки.
Недавние достижения в области языка, моделей преобразования текста в изображение и текста в видео позволяют ИИ создавать сверхреалистичные выходные данные. Многие даже путают их с органическим, человеческим содержанием.
Хотя этот подвиг означает технологическую веху, он также стирает грань между реальностью и фантазией. Искусственные изображения, текст и видео создают цифровой контент, который затмевает подлинный опыт. Вот как ИИ создает иллюзию реальности.
1. Некоторые относятся к персонажам, созданным искусственным интеллектом, как к реальным людям
Приложения для виртуальной девушки/парня с искусственным интеллектом становятся более реалистичными, чем когда-либо. Они имитируют романтические отношения с помощью созданных искусственным интеллектом персонажей, которых пользователи могут настраивать в соответствии со своими предпочтениями. Одни предпочитают человекоподобных персонажей с замысловатыми чертами лица, другие копируют вымышленных персонажей.
Большинство людей используют симуляторы свиданий, чтобы справиться с одиночеством. Приложения, работающие на современных обработка естественного языка (НЛП) и большие языковые модели (LLM) имитируют реальные человеческие разговоры. Таким образом, пользователи чувствуют, что они «подключаются» к этим партнерам по ИИ.
По иронии судьбы, ИИ-приложения для подруг и парней усугубляют социальную изоляцию, увековечивая токсичные убеждения о межличностных отношениях. Пользователям нужны партнеры, которые будут соответствовать их придуманным ИИ-персонажам. Некоторые даже зашли бы так далеко, что женились бы на своих компаньонах, созданных искусственным интеллектом, и вообще отказались бы от человеческих отношений.
2. Чат-боты обеспечивают фальшивую эмоциональную поддержку
Для психотерапии часто используют генеративные чат-боты с искусственным интеллектом. Платформы искусственного интеллекта извлекают советы по психическому здоровью из своих наборов данных и имитируют человеческую речь с помощью LLM. Их результаты нейтральны и универсальны, но многие будут изучать инструменты ИИ, а не платить за психотерапию. сессии.
Помимо доступности ИИ, некоторые люди также предпочитают доверять беспристрастным и непредвзятым алгоритмам. Они чувствуют себя некомфортно, рассказывая другому человеку о своих проблемах. Тот факт, что вы разговариваете с лицензированным профессионалом, не означает, что коммуникативные барьеры не возникнут.
Тем не менее, относиться к чат-ботам с искусственным интеллектом как к терапевтам опасно. ИИ не может сопереживать вам или понимать вашу ситуацию — он использует НЛП для понимания входных данных и представляет соответствующие выходные данные на основе своих наборов данных. Пожалуйста, обратитесь к лицензированному терапевту или психиатру, если вам нужна консультация по психическому здоровью.
3. Пользователи имитируют голоса посредством синтеза речи
Достижения в моделях преобразования текста в речь и речи в речь привели к появлению недорогих и доступных генераторов голоса ИИ. Они воспроизводят естественно звучащую речь. В зависимости от качества ввода и сложности модели любой может точно скопировать голос другого человека.
Разработчики часто используют генераторы голоса с искусственным интеллектом для синтеза голоса за кадром, добавления речевых функций к виртуальным персонажам или программирования приложений, активируемых голосом. Они дешевле, чем запись с нуля. Точно так же некоторые люди используют генераторы голоса, чтобы подшучивать над людьми и подражать им. Вы, вероятно, видели, как в сети распространяются поддельные каверы на песни.
Но не стоит недооценивать риски безопасности голосовых генераторов ИИ— мошенники используют эти инструменты для распространения дезинформации и проведения атак социальной инженерии. Даже технически подкованные люди могут влюбиться в голоса, синтезированные искусственным интеллектом, если они будут неосторожны.
Распространение генераторов голоса, изображений и текста, управляемых искусственным интеллектом, позволяет пользователям создавать в сети совершенно новую личность. Брать виртуальные влиятельные лица, например. Многие аватары, созданные искусственным интеллектом, обладают сверхреалистичными, реалистичными чертами лица — их можно выдать за людей.
Хотя создание реалистичных аватаров значительно приближает общество к метавселенной, оно также помогает мошенникам проводить более изощренные атаки. Они создают поддельные личности для кражи личных данных и мошенничество в онлайн-знакомствах. А когда мошенники сочетают эти передовые технологии с психологическими манипуляциями, они обманывают более широкий круг жертв.
Что еще хуже, некоторые жертвы впадают в иллюзию, что они могут установить настоящие связи с персонажами ИИ. Стремление к общению берет верх над ними. Они предпочитают не замечать тот факт, что незнакомцам, управляющим этими персонажами, наплевать на них.
5. ИИ-контент наводняет поисковую выдачу
Чат-боты с искусственным интеллектом значительно повлияли на индустрию контента. Отдельные писатели, маркетинговые агентства, производители контента и даже официальные издания изучают способы ускорить процесс написания с помощью ИИ. В конце концов, продвинутые LLM могут создать текст из 500 слов менее чем за 15 секунд.
Есть несколько этических способов использования ИИ для писателей— проблема в том, что большинство создателей хотят быстро выпускать контент. Одержимость скоростью вредит качеству. ИИ извлекает информацию из своих обучающих наборов данных; он не проверяет факты и не сравнивает ресурсы. Полученный результат часто бывает неоригинальным и вводящим в заблуждение.
Что еще хуже, многие статьи об искусственном интеллекте с минимальными усилиями по-прежнему высоко ранжируются благодаря передовым методам SEO. Большинство даже не замечают, какие результаты Google генерируются искусственным интеллектом. Они могут читать и цитировать вводящую в заблуждение, фактически неверную информацию, не осознавая этого.
6. Дипфейки разрушают репутацию
Генерационные модели, управляемые искусственным интеллектом, могут имитировать черты лица, голоса и манеры других людей с помощью цифровых медиа. Возьмите приведенное ниже видео TikTok с участием «Тома Круза». Миллионы поверили бы, что это настоящая сделка, если бы в аккаунте прямо не было указано, что это дипфейковое видео.
Но не все такие честные, как они. Мошенники используют дипфейковые видео для распространения вводящего в заблуждение, вредного и сексуального содержания. Они могут изготовить практически любой клип с необходимыми навыками монтажа и инструментами.
7. Иммерсивный опыт VR/AR искажает ваши чувства
Модели ИИ позволяют виртуальная реальность (VR) и дополненная реальность (AR) технологии, чтобы обеспечить более захватывающий опыт. Их гиперреалистичная продукция полностью стимулирует чувства. По мере развития высокотехнологичных устройств виртуальной и дополненной реальности их стандартные слуховые, визуальные и тактильные сигналы также будут улучшаться.
Хотя это и увлекательно, слишком частое погружение в расширенную реальность искажает ваши естественные чувства. Платформы VR/AR отделяют вас от вашего реального окружения. Слишком сильное воздействие искусственных сенсорных триггеров затруднит отделение реальности от симуляций.
У некоторых пользователей даже развивается чрезмерная зависимость от расширенных реальностей. Они будут перемещаться в симуляции, адаптированные к их желаниям, требованиям и предпочтениям, а не сталкиваться с реальным миром.
Использование устройств VR/AR в течение длительного времени связано с несколькими рисками., включая напряжение глаз, социальную изоляцию и подверженность кибератакам.
8. Бизнес-системы с искусственным интеллектом создают нереалистичные ожидания прибыли
ИИ меняет методы работы компаний в разных секторах. Лиса сообщает, что 90% малых предприятий уже интегрировали чат-ботов с искусственным интеллектом в свой рабочий процесс. Точно так же технически подкованные профессионалы изучают более продвинутые модели.
Да, предприятия могут повысить производительность за счет автоматизации ИИ, но полагаясь исключительно на эти системы, возникает риск чрезмерной капитализации. Полномасштабные системы ИИ стоят дорого. Неподготовленное погружение в ИИ только увеличит ваши накладные расходы, что еще больше затруднит возврат ваших инвестиций.
ИИ — это не золотой билет к успеху. Дезинформированные предприниматели должны отказаться от ложного убеждения, что замена людей искусственным интеллектом увеличивает прибыль. Внедрение новых систем все равно может привести к убыткам, если вы откажетесь от надлежащего планирования.
Проведение линии между фантазией и реальностью
Различие между виртуальным и реальным миром станет еще сложнее по мере развития технологий искусственного интеллекта. Сложные модели будут генерировать более реалистичный результат. Единственный способ бороться с этими широко распространенными ложными реалиями — самостоятельно исследовать ИИ — изучать его функции и ограничения.
Кроме того, всегда относитесь к ИИ со скептицизмом. Он прошел долгий путь от выплевывания бессвязных фраз, но он все еще не может заменить надлежащие исследования и здравые суждения. Слепое доверие платформам искусственного интеллекта просто делает вас уязвимыми для дезинформации.
