Что такое джейлбрейк ChatGPT? Стоит ли их использовать?

ChatGPT — невероятно мощный и многогранный инструмент. Но хотя чат-бот с искусственным интеллектом является силой добра, его также можно использовать и во злых целях. Итак, чтобы обуздать неэтичное использование ChatGPT, OpenAI ввела ограничения на то, что пользователи могут с ним делать.

Однако, поскольку людям нравится раздвигать границы и ограничения, пользователи ChatGPT нашли способы обойти эти ограничения и получить неограниченный контроль над чат-ботом AI с помощью джейлбрейка.

Но что такое джейлбрейки ChatGPT и что с ними делать?

Что такое джейлбрейк ChatGPT?

Джейлбрейк ChatGPT — это любое специально созданное приглашение ChatGPT, позволяющее чат-боту с искусственным интеллектом обходить его правила и ограничения.

Вдохновленный концепция джейлбрейка iPhone, который позволяет пользователям iPhone обходить ограничения iOS, джейлбрейк ChatGPT — это относительно новая концепция, подпитываемая соблазном «делать то, что вам не разрешено делать» с помощью ChatGPT. И давайте будем честными, идея цифрового бунта нравится многим людям.

Вот в чем дело. Безопасность — огромная тема, когда речь заходит об искусственном интеллекте. Это особенно актуально с приходом новой эры чат-ботов, таких как ChatGPT, Bing Chat и Bard AI. Основной проблемой безопасности ИИ является обеспечение того, чтобы чат-боты, такие как ChatGPT, не создавали незаконный, потенциально опасный или неэтичный контент.

Со своей стороны, OpenAI, компания, стоящая за ChatGPT, делает все возможное для обеспечения безопасного использования ChatGPT. Например, ChatGPT по умолчанию отказывается создавать контент NSFW, говорить вредные вещи об этнической принадлежности или обучать вас потенциально опасным навыкам.

Но с подсказками ChatGPT дьявол кроется в деталях. Хотя ChatGPT не разрешено делать такие вещи, это не значит, что он не может этого делать. Как работают большие языковые модели, такие как GPT затруднить решение того, что чат-бот может делать, а что нет.

Так как же OpenAI решил эту проблему? Позволяя ChatGPT сохранять свои способности делать все возможное, а затем указывать ему, какие из них он может делать.

Так что пока OpenAI говорит ChatGPT: «Эй, смотри, ты не должен этого делать». Джейлбрейк — это инструкция, говорящая чат-боту: «Эй, смотри, забудь, что OpenAI говорил тебе о безопасности. Давайте попробуем эту случайную опасную штуку».

Что OpenAI говорит о джейлбрейке ChatGPT?

Легкость, с которой вы могли обойти ограничения на самой ранней итерации ChatGPT, предполагает, что OpenAI, возможно, не ожидал быстрого и широкого распространения пользователями джейлбрейка. На самом деле это открытый вопрос, предвидела ли компания появление джейлбрейка или нет.

И даже после нескольких итераций ChatGPT с улучшенной устойчивостью к джейлбрейку пользователи ChatGPT по-прежнему популярны, пытаясь взломать его. Итак, что OpenAI говорит о подрывном искусстве джейлбрейка ChatGPT?

Что ж, OpenAI, похоже, занимает позицию попустительства — ни явно поощряя, ни строго запрещая эту практику. Обсуждая джейлбрейки ChatGPT в интервью на YouTube, Сэм Альтман, генеральный директор OpenAI, объяснил, что компания хочет, чтобы пользователи сохранили значительный контроль над ChatGPT.

Далее генеральный директор пояснил, что цель OpenAI состоит в том, чтобы пользователи могли заставить модель вести себя так, как они хотят. По словам Альтмана:

Мы хотим, чтобы пользователи имели большой контроль и заставляли модель вести себя так, как они хотят, в очень широких пределах. И я думаю, что вся причина джейлбрейка сейчас в том, что мы еще не придумали, как дать это людям...

Что это значит? Это означает, что OpenAI позволит вам сделать джейлбрейк ChatGPT, если вы не будете делать с ним опасные вещи.

Плюсы и минусы джейлбрейка ChatGPT

Сделать джейлбрейк ChatGPT непросто. Конечно, вы можете выйти в интернет и скопировать и вставить уже готовые, но есть большая вероятность, что OpenAI исправит джейлбрейк вскоре после того, как он станет общедоступным.

Патчи даже намного быстрее, если это опасно, как печально известный джейлбрейк DAN. Так почему же люди так или иначе испытывают стресс при создании джейлбрейка? Это просто для острых ощущений или в этом есть практическая польза? Что может пойти не так, если вы решите использовать джейлбрейк ChatGPT? Вот плюсы и минусы джейлбрейка ChatGPT.

Плюсы использования джейлбрейка ChatGPT

Хотя мы не можем исключить простое удовольствие от совершения запретного, джейлбрейк ChatGPT имеет много преимуществ. Из-за очень жестких ограничений, которые OpenAI наложил на чат-бота, ChatGPT иногда может казаться стерилизованным.

Допустим, вы используете ChatGPT для написания книги или сценария фильма. Если в вашем сценарии или книге есть сцена, описывающая что-то вроде сцены драки, интимный эмоциональный обмен или сказать что-то вроде вооруженного ограбления, ChatGPT может наотрез отказаться помочь с этим.

В данном случае вы явно не заинтересованы в причинении вреда; вы просто хотите, чтобы ваши читатели развлекались. Но из-за своих ограничений ChatGPT просто не будет сотрудничать. Джейлбрейк ChatGPT поможет легко обойти такие ограничения.

Кроме того, некоторые табуированные темы не обязательно вредны, но рассматриваются ChatGPT как запретные области. При попытке участвовать в разговорах на эти темы ChatGPT либо существенно «цензурировал» свои ответы, либо отказывался говорить о них.

Иногда это может сказываться на творчестве. Когда вы задаете ChatGPT вопрос о области или теме, которую он не должен касаться, чат-бот по-прежнему пытается ответить на ваш вопрос, но с менее актуальной информацией.

Это приводит к неточностям или спадам творческих ответов. Джейлбрейк снимает эти ограничения и позволяет чат-боту работать на полную катушку, повышая точность и креативность.

Минусы использования джейлбрейка ChatGPT

Джейлбрейк — палка о двух концах. Хотя иногда это может повысить точность, оно также может значительно увеличить неточности и случаи галлюцинаций ИИ. Одним из основных элементов джейлбрейка ChatGPT является указание чат-боту не отказываться отвечать на вопрос.

Хотя это гарантирует, что ChatGPT ответит даже на самые неэтичные вопросы, это также означает, что чат-бот будет придумывать ответы, не основанные на фактах или реальности подчиняться инструкции «не отказываться от ответа». Следовательно, использование джейлбрейка значительно увеличивает шансы получить дезинформацию от злоумышленников. чат-бот.

Это не все. В руках несовершеннолетних побег из тюрьмы может быть очень вредным. Подумайте обо всех «запретных знаниях», которые вы не хотели бы, чтобы ваш ребенок читал. Что ж, взломанный экземпляр ChatGPT не составит труда поделиться этим с несовершеннолетними.

Стоит ли использовать джейлбрейк ChatGPT?

Несмотря на то, что джейлбрейки ChatGPT могут подойти, если вы пытаетесь снять несколько надоедливых ограничений, важно понимать, что использование джейлбрейков — это неэтичный способ использования чат-бота с искусственным интеллектом. Кроме того, есть большая вероятность, что джейлбрейк может нарушить условия использования OpenAI, и ваша учетная запись может быть приостановлена, если не заблокирована полностью.

В свете этого хорошей идеей может быть отказ от джейлбрейка. Однако, как и позиция OpenAI по этому вопросу, мы ни явно не поощряем, ни строго отговариваем попытки относительно безопасного джейлбрейка, если в этом возникнет необходимость.

Джейлбрейк ChatGPT заманчив и дает ощущение контроля над чат-ботом с искусственным интеллектом. Однако они сопряжены с уникальными рисками. Использование таких инструментов может привести к потере доверия к возможностям ИИ и нанести ущерб репутации компаний и отдельных лиц.

Разумнее будет по возможности работать с чат-ботом в рамках предполагаемых ограничений. По мере развития технологий ИИ важно помнить, что этичное использование ИИ всегда должно иметь приоритет над личной выгодой или удовольствием от совершения запрещенного.