ChatGPT — это новый мощный чат-бот с искусственным интеллектом, который быстро впечатляет, но многие люди отмечают, что у него есть серьезные недостатки. Спросите его о чем угодно, и вы получите ответ, который звучит так, как будто его написал человек. изучив свои знания и навыки письма из огромного количества информации в Интернете.
Однако, как и в Интернете, правда и факты не всегда являются данностью, и ChatGPT виновен в том, что ошибается. Поскольку ChatGPT настроен изменить наше будущее, вот некоторые из самых больших опасений.
Что такое ChatGPT?
ChatGPT — это большая модель изучения языка, которая была разработана для имитации человеческого разговора. Он может помнить то, что вы сказали ему в прошлом, и способен исправить себя, если он не прав.
Он пишет по-человечески и обладает обширными знаниями, потому что был обучен на всех видах текстов из Интернета, таких как Википедия, сообщения в блогах, книги и научные статьи.
Легко учиться как использовать ChatGPT, но что еще сложнее, так это выяснить, каковы его самые большие проблемы. Вот некоторые из них, о которых стоит знать.
1. ChatGPT не всегда подходит
Он не справляется с основами математики, не может ответить на простые логические вопросы и даже доходит до опровержения совершенно неверных фактов. Как могут подтвердить пользователи социальных сетей, ChatGPT может ошибаться более чем в одном случае.
OpenAI знает об этом ограничении, написав, что: «ChatGPT иногда пишет правдоподобно звучащие, но неправильные или бессмысленные ответы». Этот «галлюцинация» фактов и вымыслов, как называют ее некоторые ученые, особенно опасна, когда речь идет о чем-то вроде медицины. совет.
В отличие от других помощников ИИ, таких как Siri или Alexa, Chat GPT не использует Интернет для поиска ответов. Вместо этого он строит предложение слово за словом, выбирая наиболее вероятный «токен», который должен быть следующим, на основе своего обучения.
Другими словами, ChatGPT приходит к ответу, делая серию догадок, что является одной из причин, по которой он может аргументировать неправильные ответы, как если бы они были полностью верны.
Хотя он отлично объясняет сложные концепции, что делает его мощным инструментом для обучения, важно не верить всему, что он говорит. ChatGPT не всегда корректен — по крайней мере, пока.
2. Предвзятость встроена в систему
ChatGPT был обучен коллективному письму людей по всему миру, в прошлом и настоящем. Это означает, что те же смещения, которые существуют в данных, также могут проявляться в модели.
Фактически, пользователи показали, как ChatGPT может давать ужасные ответы, некоторые из которых, например, дискриминируют женщин. Но это только верхушка айсберга; он может дать ответы, которые чрезвычайно вредны для ряда групп меньшинств.
Вина заключается не только в данных. Исследователи и разработчики OpenAI выбирают данные, которые используются для обучения ChatGPT. Чтобы помочь справиться с тем, что OpenAI называет «предвзятым поведением», он просит пользователей оставить отзыв о плохих результатах.
С потенциалом причинения вреда людям вы можете утверждать, что ChatGPT не должен был публиковаться до тех пор, пока эти проблемы не будут изучены и решены.
Аналогичный чат-бот с искусственным интеллектом под названием Sparrow (принадлежащий материнской компании Google Alphabet) был выпущен в сентябре 2022 года. Однако его держали за закрытыми дверями из-за аналогичных опасений, что он может причинить вред.
Возможно, Мета тоже должна была возглавить предупреждение. Когда она выпустила Galactica, языковую модель ИИ, обученную на академических работах, она была быстро отозвана после того, как многие люди критиковали ее за вывод неверных и предвзятых результатов.
3. Вызов английскому языку в средней школе
Вы можете попросить ChatGPT проверить ваше письмо или указать, как улучшить абзац. Кроме того, вы можете полностью исключить себя из уравнения и попросить ChatGPT написать что-нибудь для вас.
Учителя экспериментировали с передачей заданий по английскому языку в ChatGPT и получали ответы, которые лучше, чем у многих их учеников. От написания сопроводительных писем до описания основных тем в известном литературном произведении ChatGPT может сделать это без колебаний.
Возникает вопрос: если ChatGPT сможет писать для нас, нужно ли будет студентам учиться писать в будущем? Это может показаться экзистенциальным вопросом, но когда учащиеся начнут использовать ChatGPT для написания своих эссе, школам придется быстро придумывать ответ. Быстрое внедрение ИИ в последние годы потрясет многие отрасли, и образование — лишь одна из них.
4. Это может нанести реальный вред
Ранее мы упоминали, как неверная информация ChatGPT может нанести реальный вред, причем наиболее очевидным примером является неверный медицинский совет.
Есть и другие опасения. Поддельные учетные записи в социальных сетях представляют собой огромную проблему в Интернете, и с появлением чат-ботов с искусственным интеллектом интернет-мошенничество станет проще. Еще одной проблемой является распространение ложной информации, особенно когда ChatGPT заставляет даже неправильные ответы звучать убедительно правильными.
Скорость, с которой ChatGPT может выдавать не всегда правильные ответы, уже вызвала проблемы для Stack Exchange, веб-сайта, на котором пользователи могут задавать вопросы и получать ответы.
Вскоре после его выпуска ответы ChatGPT были запрещены на сайте из-за того, что многие из них были неверными. Без достаточного количества людей-добровольцев для сортировки отставаний было бы невозможно поддерживать высокий уровень качества ответов, что нанесло бы ущерб веб-сайту.
5. OpenAI обладает всей мощью
С большой силой приходит большая ответственность, и OpenAI обладает большой властью. Это одна из первых компаний в области искусственного интеллекта, которая действительно потрясла мир не одной, а несколькими моделями искусственного интеллекта, включая Dall-E 2, GPT-3, а теперь и ChatGPT.
OpenAI выбирает, какие данные использовать для обучения ChatGPT и как он справляется с негативными последствиями. Согласны мы с методами или нет, но он продолжит развивать эту технологию в соответствии со своими целями.
Хотя OpenAI считает безопасность своим высоким приоритетом, мы многого не знаем о том, как создаются модели. Считаете ли вы, что исходный код следует сделать открытым, или согласны с тем, что некоторые его части должны храниться в секрете, мы мало что можем с этим поделать.
В конце концов, все, что мы можем сделать, — это верить, что OpenAI будет ответственно исследовать, разрабатывать и использовать ChatGPT. В качестве альтернативы мы можем выступать за то, чтобы больше людей имели право голоса, в каком направлении должен двигаться ИИ, делясь мощью ИИ с людьми, которые будут его использовать.
Если вам интересно, что еще разработал OpenAI, ознакомьтесь с нашими статьями на как использовать Далл-Е 2 и как использовать GPT-3.
Решение самых больших проблем ИИ
В ChatGPT, последней разработке OpenAI, есть чему порадоваться. Но помимо его непосредственного использования, есть несколько серьезных проблем, которые стоит понять.
OpenAI признает, что ChatGPT может давать вредные и предвзятые ответы, не говоря уже о его способности смешивать факты с вымыслом. С такой новой технологией трудно предсказать, какие еще проблемы возникнут. Так что до тех пор наслаждайтесь изучением ChatGPT и будьте осторожны, не верьте всему, что он говорит.