Промпт
Проверка ответа ИИ на выдумки
Промпт заставляет модель разделить собственный ответ на три части: подтверждаемые факты, собственные выводы и додуманное. Всё, что попало в третью группу, переписывается или помечается как непроверенное.
Какую задачу решает
Модель отвечает уверенно там, где данных у неё нет — и по тону это неотличимо от точного ответа. Проверять руками каждый абзац дорого, поэтому проверку делает сама модель, но по жёсткой процедуре, а не по просьбе «будь точен».
Когда применять
- перед тем как отправить клиенту текст, собранный с помощью ИИ
- когда в ответе есть цифры, ссылки на законы, названия сервисов или цены
- при работе с юридическими, медицинскими и финансовыми формулировками
Материал
Текст промпта
Разбери свой предыдущий ответ на три списка. 1. ПОДТВЕРЖДАЕМОЕ. Утверждения, которые опираются на конкретный источник. Для каждого — источник и точная формулировка оттуда. 2. МОИ ВЫВОДЫ. То, что ты вывел сам из пункта 1. Покажи цепочку рассуждения по шагам. 3. ДОСТРОЕННОЕ. То, что ты написал по образцу похожих текстов, без опоры на источник, — включая правдоподобные цифры, названия и даты. Правила: — не оправдывайся и не объясняй, почему так вышло; — если сомневаешься, к какому списку отнести утверждение, относи к третьему; — после разбора перепиши ответ, убрав всё из третьего списка или пометив прямо в тексте: «требует проверки». В конце одной строкой: какую долю исходного ответа пришлось убрать или пометить.
Порядок применения
- Задайте модели рабочий вопрос и получите обычный ответ.
- Отправьте следующим сообщением текст промпта — без изменений.
- Прочитайте третий список: это места, где модель достраивала правдоподобное.
- Проверьте руками только то, что осталось в первом списке со ссылками на источники.
Почему это работает
Промпт работает как процедура, а не как просьба. Формулировка «если сомневаешься — относи к третьему списку» смещает модель в сторону осторожности: без неё спорные утверждения уезжают в «подтверждаемое».