Поскольку область искусственного интеллекта продолжает развиваться головокружительными темпами, новый претендент готов выйти на игровое поле. TruthGPT, чат-бот с искусственным интеллектом, предложенный техническим миллиардером Илоном Маском, вызывает много шума в Интернете.
Но что такое TruthGPT? Почему Илон Маск хочет его создать? И чем он будет отличаться от инструментов ИИ, которые у нас уже есть?
Что такое TruthGPT?
TruthGPT — это предлагаемая модель искусственного интеллекта, направленная на устранение недостатков существующих моделей, которые поддерживают такие модели, как ChatGPT и Bard, с особым упором на правду и безопасность. По словам Илона Маска, TruthGPT будет «максимальным поиском правды» ИИ, который понимает природу вселенной и вряд ли уничтожит человечество, потому что рассматривает людей как важнейший компонент вселенная.
Максимально правдоподобный ИИ? Понять природу Вселенной?
Вы простите, если описание Маска не даст вам ясного представления о том, что именно он пытается построить. Однако вы лучше поймете, о чем он говорит, если посмотрите, почему он вообще пытается это построить.
Почему Илон Маск создает TruthGPT?
В интервью с Фокс Новости, Илон Маск выразил обеспокоенность по поводу того, что крупные фирмы, занимающиеся ИИ, могут увековечивать предвзятость и дезинформацию с помощью чат-ботов ИИ — нового инструмента, от которого люди все больше зависят в получении информации. Илон Маск также прокомментировал угрозу, которую ИИ представляет для человечества, подчеркнув возможность апокалипсиса ИИ, сценария, в котором системы ИИ могут взять под контроль нашу повседневную жизнь.
Выделив такие компании, как OpenAI и Google, которые, по его мнению, недостаточно делают в области безопасности ИИ и защиты от дезинформации, Илон Маск предложил третью силу — TruthGPT. Генеральный директор SpaceX и Tesla хочет создать TruthGPT в качестве противовеса Bard от Google и ChatGPT от OpenAI. Идея состоит в том, чтобы создать модель ИИ, которая максимально правдива в информации, которую она предоставляет.
Илон Маск, недавно написавший открытое письмо с призывом мораторий на разработку мощного ИИ моделей (в частности, более мощных, чем GPT-4), считает, что ИИ движется слишком быстро. Он считает, что нам нужно замедлиться и пересмотреть наш подход к безопасности ИИ, прежде чем ИИ «возьмет на себя управление». TruthGPT — это большая языковая модель (LLM), которая обещает решить эти две основные проблемы с помощью современного ИИ. системы.
Как будет выглядеть TruthGPT?
Первый намек на то, как будет выглядеть TruthGPT, содержится в названии. Учитывая придаток «GPT», TruthGPT, вероятно, будет иметь архитектуру, аналогичную ChatGPT. Помните, Элон Маск помог собрать OpenAI и команду, которая создала модель GPT для ChatGPT.
Кроме того, учитывая, что архитектура GPT оказалась успешной как с технической, так и с коммерческой точки зрения, выбор другого пути, вероятно, будет слишком трудоемким и дорогостоящим. Время — это то, чего нет у Илона Маска, если он хочет как можно скорее построить что-то, что действительно сможет противостоять современному ИИ. Так что не слишком расстраивайтесь — TruthGPT может не так уж радикально отличаться от инструментов ИИ, которые у нас уже есть.
Точность или, на жаргоне Элона Маска, «правдивость» модели ИИ в значительной степени зависит от ее обучающих данных и алгоритма обучения. Мы не совсем уверены, как будут получены обучающие данные TruthGPT, но чтобы получить наилучшие шансы построить LLM, который «Насколько это возможно», TruthGPT Илона Маска должен был бы отдавать приоритет данным из «правдивых источников». Но именно это проблема. Истина — очень субъективное понятие. То, что верно для меня, может не быть правдой для вас.
Итак, практична ли эта идея максимально правдоподобного ИИ?
Почему создание TruthGPT — это огромная проблема
Как только вы понять, как работают большие языковые модели, такие как GPT, становится ясно, что непрактично всегда быть правильным. Как правило, обученные на большом наборе данных из Интернета, многие из них, как и ожидалось, будут ложной информацией, и у LLM нет инертного способа отличить факты от вымысла.
Лучшее вмешательство, как правило, исходит от инструкторов-людей, которые пытаются научить языковую модель тому, что является хорошим поведением, а что плохим. Но тренеры-люди предвзяты. Смещение передается моделям ИИ, разрушая всю цель «максимально ищущего истину ИИ». Обратите внимание, мы не говорим об откровенной предвзятости или предубеждении против людей или чего-либо еще. Это более тонкое предубеждение относительно того, как вы интерпретируете язык, ситуации, проблемы и т. д., которые просачиваются в процесс. Люди есть люди, в конце концов.
Конечно, точность также может быть решена со стороны алгоритма. Однако, независимо от алгоритма, неоднозначность языка по-прежнему представляет большую проблему для точности моделей ИИ. Даже люди часто пытаются точно интерпретировать значение предложения или фразы, что приводит к дезинформации. Для моделей ИИ неоднозначность может привести к неправильному толкованию, что приведет к неточностям.
Для Маска TruthGPT кажется шансом создать модель ИИ, которая, по его мнению, подходит для раскрытия правды. Как это могло бы произойти без введения его собственных предубеждений — это совершенно другой вопрос, который эффективно возвращает нас к началу разговора. Насколько мнение Маска о том, что предвзято, а что нет, отличается от мнения тех, кто обучал и руководил ChatGPT?
Является ли TruthGPT захватывающей возможностью?
Планы Илона Маска относительно TruthGPT кажутся благородными и похвальными. Однако создание модели ИИ с незначительным количеством неточностей — сложная задача.
Хотя мы ожидаем, что технический миллиардер, который демистифицирует ракетостроение, сможет осуществить что-то в этом роде, некоторые вещи легче сказать, чем сделать.
