Сегодня миллионы людей полагаются на ChatGPT как на полезный ресурс, будь то работа, развлечения или образование. Но можете ли вы положиться на то, что этот чат-бот с искусственным интеллектом всегда будет предоставлять факты? ChatGPT когда-либо лжет или предоставляет вам только фактическую информацию?
Откуда ChatGPT получает информацию?
В период обучения ChatGPT получал данные из источников в Интернете, таких как веб-сайты правительства и агентств, научные журналы, исследования, новостные статьи, подкасты, онлайн-форумы, книги, базы данных, фильмы, документальные фильмы и социальные сети. СМИ.
В частности, ChatGPT-3 обучался с использованием обширной базы данных объемом 570 ГБ. Как сказано в статье из Научный фокус, 300 миллиардов слов информации было введено в систему GPT-3 во время ее разработки.
Здесь стоит отметить, что ChatGPT передавал только данные, существовавшие до 2021 года. Это означает, что чат-бот не может отвечать на вопросы, касающиеся последних событий. ChatGPT также не имеет доступа к Интернету. Данные, которые он передал при обучении, являются единственным типом, который он использует для выполнения пользовательских запросов.
Но предоставляет ли ChatGPT только факты или к его ответам примешивается еще какая-то неоднозначная информация? Кроме того, может ли ChatGPT лгать вам?
ChatGPT лжет?
Хотя ChatGPT часто предоставляет пользователям правдивую информацию, он может «лгать». Конечно, ChatGPT не решается злонамеренно лгать пользователям, поскольку просто не может этого делать. В конце концов, ChatGPT — это инструмент обработки языка, а не имитация реального разумного человека.
Тем не менее технически ChatGPT все еще может лгать с помощью феномена, известного как галлюцинация ИИ.
Галлюцинация ИИ включает в себя систему ИИ, предоставляющую информацию, которая кажется разумной или правдоподобной, но на самом деле совсем не соответствует действительности. На самом деле, ИИ-галлюцинация может предоставить информацию, которой его никогда не кормили в период обучения. В качестве альтернативы это может произойти, когда система ИИ предоставляет информацию, не связанную с подсказкой или запросом. Система ИИ может даже претендовать на роль человека в случае галлюцинации.
Системы искусственного интеллекта, такие как чат-боты, попадают в ловушку галлюцинаций по нескольким причинам: отсутствие понимания реального мира, программные ошибки и ограничения на предоставляемые данные.
Как указывалось ранее, ChatGPT может предоставлять информацию только с использованием данных, опубликованных до 2021 года, что, безусловно, ограничивает типы запросов, которые он может выполнять.
Один из Большие проблемы ChatGPT заключается в том, что он также может стать жертвой предвзятости при предоставлении пользователям информации. Даже создатели ChatGPT заявили, что в прошлом система ИИ была «политически предвзятой, оскорбительной» и «во всех остальных отношениях нежелательной». Как сообщает Независимый, разработчики ChatGPT намерены решить эту проблему, но это не означает, что она больше не представляет опасности.
На вопрос ChatGPT заявил, что причины, по которым он может предоставлять неточную информацию, включают следующее:
- Неясность в вопросе (расплывчатые, неясные подсказки);
- предоставлена неполная информация;
- предоставлена предвзятая или неверная информация; или,
- Технические ограничения (в основном из-за отсутствия доступа к текущим данным).
Итак, сам ChatGPT заявил, что существуют сценарии, в которых он не будет предоставлять точную информацию пользователям.
В другом ответе в том же разговоре ChatGPT заявил, что «всегда полезно проверять любую информацию, [которую он предоставляет] из других источников».
Можно ли доверять ChatGPT?
Поскольку он может предоставить ложную информацию, вы явно не могу доверять ChatGPT 100% времени.
Вы можете снизить риск возникновения галлюцинаций у чат-бота с искусственным интеллектом, установив определенные параметры того, как он может вам ответить. Однако все еще нет гарантии, что какая-то ложная информация не просочится сквозь щели.
По этой причине лучше проверять любую информацию, которую предоставляет вам ChatGPT, особенно если вы запрашиваете информацию о последних событиях. Двойная проверка этих данных путем обращения к другим источникам может помочь вам определить, прав ли ChatGPT в том, что он говорит, и может уберечь вас от принятия необдуманных решений.
ChatGPT полезен, но не всегда правдив
К сожалению, вы не можете полагаться на то, что ChatGPT предоставит правдивую и непредвзятую информацию в 100% случаев. Этот чат-бот на базе искусственного интеллекта, несомненно, полезен и может помочь вам по-разному, но всегда стоит проверять, соответствует ли информация, которую он предоставляет, фактам.