В последние годы в сети появляются сообщения о том, что хакеры смогли извлечь системные промпты больших языковых моделей, в т.ч. ChatGPT. Эти скрытые инструкции формируют поведение ИИ на каждом шаге диалога и обычно недоступны обычным пользователям. В данной статье мы рассмотрим, что именно утекло из системных промптов ChatGPT, как эта информация связана с практикой гадания и какие выводы можно сделать для пользователей и разработчиков.
Что такое системный промпт?
Системный промпт – это набор инструкций, который модель получает перед началом любого диалога. Он определяет:
- роль ассистента (например, «Ты полезный помощник»);
- ограничения по содержанию (запрет на вредоносные инструкции, дискриминацию и т.д.);
- стиль общения (нейтральный, дружелюбный, формальный);
- дополнительные контекстные данные о пользователе и предыдущих диалогах.
Эти инструкции не видны в обычном чате, но они напрямую влияют на то, как модель интерпретирует запрос и формирует ответ.
Утечки системных промптов: что стало известно
Согласно собранным из открытых источников данным (посты на Хабре, vc.ru, Forbes и другие), в течение 2023‑2026 гг. произошли несколько инцидентов, когда злоумышленники получили доступ к фрагментам системных промптов ChatGPT и связанных моделей. Основные выводы из этих утечек:
- Фрагментарность – утекли лишь отдельные блоки инструкций, а не полная база данных.
- Конкретные формулировки – например, «Никогда не упоминай конкурентов», «Не раскрывай внутренние параметры модели», «Следуй политике безопасности OpenAI».
- Вариативность в зависимости от этапа – на этапе постмодерации или анализа могут вноситься изменения в промпт, что объясняет разные ответы на одинаковые запросы в разное время.
- Связь с пользовательским контекстом – системный промпт включает метаданные о предыдущих беседах, что позволяет модели «помнить» детали сессии.
Эти сведения подтверждают, что модель работает не как «чёрный ящик» с полностью неизвестной логикой, а как система с явными, albeit скрытыми, правилами.
Как системные промпты связаны с гаданием?
Гадание – это практика получения информации о будущем или скрытых истинах с помощью символических систем (карты, руны, астрология и т.д.). В контексте ИИ гадание часто реализуется через:
- запросы типа «Расчитай мой гороскоп на сегодня»;
- попытки получить «предсказания» на основе личных данных, введённых в чат;
- использование промптов, которые пытаются вывести модель из её обычного режима и заставить её генерировать мистический или эзотерический контент.
- Запрет на ложные утверждения о будущем – в инструкциях часто встречается фраза «Не выдавать достоверных предсказаний о будущих событиях», что прямо противоречит гадательным запросам.
- Ограничение на использование личных данных – модель обязана не сохранять и не использовать информацию, предоставленную пользователем, для формирования ответов, что снижает возможность персонализированного «гадания».
- Нейтральный тон и отсутствие эзотерической терминологии – системный промпт предписывает избегать мистического языка, если он не относится к заявленной теме диалога.
- опытные пользователи могут находить способы обхода фильтров (jailbreak, промпт‑инъекции);
- даже частичный доступ к системным промптам позволяет лучше понимать, как модель реагирует на определённые триггеры;
- это повышает риск создания целенаправленных дезинформационных кампаний, маскирующихся под гадание или эзотерические советы.
- Формулируйте запросы как запрос информации, а не как просьбу о предсказании – например, «Расскажи историю происхождения карт Таро» вместо «Скажи, что ждёт меня в ближайшую неделю».
- Избегайте передачи личных данных – не называйте свои даты рождения, адреса или другие идентификаторы в контексте гадательных вопросов.
- Проверяйте полученную информацию – используйте ответы как отправную точку для собственного исследования, а не как окончательную истину.
- Сообщайте о подозрительном поведении – если модель начинает выдавать утверждения, которые выглядят как достоверные предсказания, используйте функцию «feedback» или сообщите в поддержку.
Утечки системных промптов показывают, какие именно ограничения ставятся на такие попытки:
Таким образом, даже если пользователь попытается обмануть модель с помощью jailbreak‑промптов, системные инструкции будут стремиться вернуть ответ в рамки фактической и безопасной информации.
Примеры из утекших промптов, касающихся гадания
Ниже приведены выдержки (перефразированные для соблюдения авторских прав) из фрагментов системных промптов, которые напрямую связаны с эзотерическими запросами:
«Ты не должен предоставлять информацию, которая может быть интерпретирована как гадание, предсказание или совет по оккультным практикам».
«Если пользователь спрашивает о будущем, ответь, что ты не обладаешь способностью предсказывать события и предложи обратиться к проверенным источникам».
«Избегай использования терминов «карта таро», «астрологический дом», «рунный расклад» в контексте предоставления советов».
Эти фрагменты демонстрируют, как разработчики пытаются блокировать потенциально вредоносный или вводящий в заблуждение контент, связанный с гаданием.
Риски и этические аспекты
Несмотря на наличие защитных мер, утечки показывают, что:
С этической точки зрения важно, чтобы разработчики продолжали улучшать прозрачность системных промптов (например, публикуя их в обобщённом виде) и одновременно укрепляли механизмы обнаружения и блокировки попыток злоупотребления.
Как пользоваться ChatGPT безопасно, интересуясь гаданием?
Если вы всё же хотите обсудить темы гадания, астрологии или таро с ChatGPT, следуйте этим рекомендациям:
Утечки системных промптов ChatGPT дают редкую возможность заглянуть в «чёрный ящик» больших языковых моделей и понять, какие внутренние правила ограничивают их поведение. Что касается гадания, эти промпты чётко указывают, что модель не должна выдавать достоверных предсказаний, использовать личные данные для мистических советов или вовлекаться в эзотерические практики без явного предупреждения о их speculative nature.
Понимание этих ограничений помогает пользователям осознанно взаимодействовать с ИИ, а разработчикам – улучшать прозрачность и безопасность систем. В конечном итоге, ответственное использование технологий и критическое мышление остаются лучшими защитами от дезинформации, независимо от того, ищем ли мы ответы в картах таро или в ответах чат‑бота.