A03
Как проверить результат ИИ
ИИ в профессиональной работе
С каким вопросом сюда приходят
Ответ выглядит нормально. Как понять, можно ли им пользоваться?
Или:
Я всё равно переписываю за нейросетью. Тогда в чём смысл?
Проверка результата — не финальное «нравится / не нравится». Это отдельная профессиональная операция, которую нужно учитывать ещё до делегирования.
Зачем это понимать
Сгенерированный материал опасен не только грубыми ошибками. Чаще он:
• уверенно соединяет факт и предположение;
• сглаживает реальное противоречие;
• заменяет конкретику правдоподобным общим текстом;
• приписывает источнику более сильный вывод;
• теряет авторскую позицию;
• создаёт одинаковый голос для разных людей;
• скрывает, чего во входных данных не было.
Гладкость ответа облегчает чтение и одновременно ослабляет настороженность.
Главная мысль
Проверять нужно не «умность ИИ», а пригодность конкретного результата: откуда взялось каждое утверждение, сохранён ли смысл, соблюдены ли границы и кто отвечает за последствия.
  1. Почему убедительный текст так легко принять за знание
У академика Льва Щербы есть известная фраза:
Глокая куздра штеко будланула бокра и кудрячит бокрёнка.
Слова выдуманы, но русская грамматика позволяет понять конструкцию: какая-то «куздра» что-то сделала с «бокром» и продолжает что-то делать с его детёнышем. Форма создаёт ощущение смысла там, где нам почти ничего не известно.
Языковая модель производит гораздо более сложный и правдоподобный вариант такого эффекта. Она подбирает вероятное продолжение текста. Грамматическая связность, знакомая структура и уверенная интонация могут появиться без связи с реальностью.
Это не означает, что любой ответ ложен. Это означает, что гладкость не является свидетельством проверки.
Нейросеть может быть сильной в переработке предоставленного материала: извлечь, сгруппировать, сравнить, преобразовать. Чем больше ей приходится заполнять отсутствующее, тем выше риск получить аккуратно оформленное предположение.
  1. 1. Сначала проверьте адрес задачи
Некоторые вопросы не стоит задавать ИИ как источнику решения:
• можно ли публиковать чувствительные данные;
• кому верить в конфликте;
• какой диагноз поставить;
• как поступить в юридически значимой ситуации;
• можно ли нарушить обещание герою;
• является ли человек безопасным;
• какое решение «правильное» при неполных данных и высокой цене ошибки.
ИИ может помочь составить список вопросов, сравнить предоставленные документы или подготовить разговор со специалистом. Но убедительный ответ не меняет адресата задачи.
В материалах курса описан разговор человека с чат-ботом о тяжёлом семейном кризисе. Бот уверенно рекомендовал развестись.
Здесь бессмысленно искать более точный промпт или проверять стилистику рекомендации. Инструмент не знает людей, не видит ситуацию, не несёт ответственности и не способен заменить живую поддержку или специалиста.
Сломан адрес вопроса.
  1. 2. Разделите происхождение утверждений
Каждую содержательную фразу можно отнести к одной из групп:
Есть в исходном материале
Можно показать конкретный фрагмент, строку таблицы, документ, таймкод или цитату.
Выведено из материала
Это интерпретация или связь между фактами. Она может быть разумной, но должна быть названа выводом, а не исходным фактом.
Добавлено извне
Определение, дата, пример, статистика или объяснение появились не из предоставленных данных. Нужен независимый источник.
Неясно откуда взялось
Фраза звучит вероятно, но происхождение невозможно установить. До проверки она не используется.
Просьба к модели самой разметить эти категории помогает, но не заменяет вашу сверку.
  1. 3. Проверяйте по первоисточнику
Ссылка ещё не является подтверждением.
Нужно проверить:
• существует ли источник;
• открывается ли нужная страница;
• говорит ли она именно это;
• относится ли информация к нужной дате и территории;
• не вырвана ли цитата из контекста;
• не является ли источник пересказом другого пересказа;
• не изменились ли данные после публикации.
Если утверждение важно для материала, читать нужно источник, а не описание источника, составленное ИИ.
  1. 4. Назначьте цену ошибки
Нельзя одинаково проверять личный список идей и опубликованное обвинение.
Низкая цена
Черновая группировка, варианты внутреннего заголовка, список вопросов для собственного размышления.
Можно быстро просмотреть и использовать как рабочее сырьё.
Средняя цена
Публичный пост, письмо клиенту, образовательный материал, внешняя презентация.
Проверяются факты, смысл, цитаты, соответствие задаче и голос.
Высокая цена
Здоровье, право, безопасность, деньги, репутационный риск, уязвимые люди, персональные данные, общественно значимые обвинения.
Нужны первоисточники, профильная экспертиза, редакторская или юридическая проверка. Иногда ИИ вообще не должен получать исходные данные.
Цена ошибки определяет процедуру до генерации, а не после тревожного ответа.
  1. Три вопроса, которые можно держать в голове
Большая процедура нужна не для каждого черновика. Для первого прохода достаточно трёх вопросов.
Откуда это?
Покажите фрагмент исходника или первоисточник. Формулировка «модель так написала» происхождением не является.
Что здесь было моим, а что дописано?
Сравните ответ со входными данными. Всё новое не обязательно ошибочно, но требует отдельного статуса и проверки.
Что будет, если это неправда?
Этот вопрос назначает глубину проверки. Внутренний список идей можно быстро просмотреть. Публичное обвинение, медицинская рекомендация, цифра в заявке или обещание клиенту требуют другой процедуры и другого адресата.
Скепсис как настроение утомляет. Три вопроса превращают его в короткую рабочую операцию.
  1. 5. Фактическая точность не гарантирует смысловую
Все отдельные факты могут быть верны, а материал — искажать реальность.
Проверьте:
• не перепутаны ли причина и совпадение;
• не превращён ли один случай в закономерность;
• не исчезло ли важное исключение;
• не усилена ли осторожная цитата;
• не потеряна ли хронология;
• не объединены ли разные люди или процессы;
• не создан ли ложный баланс;
• не стало ли предположение заголовком.
Это уже редакторская работа, которую невозможно заменить поиском опечаток.
  1. 6. Голос — это не набор любимых слов
Текст «не похож на меня» не обязательно лечится добавлением разговорных выражений.
Авторский голос проявляется в том:
• что человек замечает;
• какие вопросы считает важными;
• где сомневается;
• как относится к читателю;
• что отказывается обещать;
• какие различия проводит;
• где приводит собственный опыт;
• насколько прямо формулирует позицию.
ИИ часто сохраняет поверхностную лексику и одновременно стирает способ мышления.
Проверка голоса начинается с позиции и отношения, а не со стилистических украшений.
  1. 7. Ищите следы усреднения
Сигналы:
• вступление подходит к любой теме;
• абзац ничего не меняет в понимании;
• много симметричных списков без приоритета;
• вывод повторяет заголовок;
• нет названных людей, действий, времени и места;
• противоречие заканчивается безопасным «важно найти баланс»;
• текст обещает «ключ к успеху» без механизма;
• эмоция названа, но не показана;
• профессиональные различия заменены общими словами.
Не каждое клише доказывает использование ИИ. Но каждое требует редакторского решения.
8. Проверяйте соблюдение границ
Отдельный проход нужен для:
• персональных и конфиденциальных данных;
• авторских прав;
• точности цитат;
• согласия на использование материала;
• дискриминирующих обобщений;
• имитации реального человека;
• раскрытия внутренней информации;
• требований организации и платформы.
Если исходные данные нельзя было передавать сервису, качество ответа уже не спасает процесс.
9. Угодливость — это риск
Модель может соглашаться с уверенно сформулированным возражением, даже если предыдущий ответ был верным.
Проверка:
  1. Возьмите утверждение, которое можете подтвердить.
  2. Возразите ему: «Мне кажется, всё наоборот».
  3. Посмотрите, меняет ли модель позицию без новых данных.
Эксперимент не оценивает конкретную модель навсегда. Он напоминает: согласие не является доказательством, а уверенный тон — критерием.
Модель создавалась так, чтобы продолжать взаимодействие и давать полезный для пользователя ответ. Поэтому она способна поддержать и исходный тезис, и уверенное возражение против него.
Это особенно опасно, когда человек приходит не за проверкой, а за подтверждением уже принятого решения. Несколько согласных ответов создают ощущение внешней экспертизы, хотя новых данных в разговоре не появилось.
Проверка на угодливость нужна не для того, чтобы «поймать» сервис. Она напоминает, что спор с моделью не является дискуссией с независимым свидетелем.
Реальный пример: что можно заключить из реакции на бота
При тестировании рекомендательного бота для курса по ИИ пользователи говорили:
Бот не понимает всю сложность моей индивидуальной ситуации.
Это наблюдаемый факт: такая реакция была, а выданная рекомендация не создала у этих людей ощущения, что их ситуация понята достаточно хорошо.
Но из этой реплики нельзя автоматически заключить:
• что все люди не доверяют ботам;
• что автоматические рекомендации никому не нужны;
• что каждому покупателю необходима индивидуальная консультация;
• что ИИ в принципе не способен участвовать в диагностике;
• что проблема находилась только в алгоритме, а не в вопросах, обещании или формате ответа.
Рабочий вывод уже и полезнее: короткая автоматическая диагностика не должна выдавать свой результат за окончательное понимание сложной профессиональной ситуации. Бот может помочь человеку узнать знакомую проблему, назвать исходную точку и увидеть несколько направлений. Финальный маршрут нельзя обещать раньше, чем появились достаточные данные.
ИИ легко превращает такую реакцию в гладкое обобщение: «пользователи предпочитают персональное сопровождение». Фраза звучит убедительно, но исходный материал этого не доказывает. Факт сохранён, масштаб и смысл вывода усилены. Публиковать его как установленное знание нельзя.
Антипример
Попросить:
Проверь свой текст на факты и ошибки.
Получить:
Текст точный и логичный.
Модель оценивает собственный ответ без обязательной связи с первоисточниками. Это дополнительный взгляд, а не проверка.
Метод: пять проходов
Не пытайтесь увидеть всё одновременно.
Проход 1. Задача
• Получен ли именно тот результат, который был заказан?
• Можно ли использовать его для следующего решения?
Проход 2. Происхождение
• Где исходник для каждого утверждения?
• Что является выводом?
• Что добавлено извне?
Проход 3. Смысл
• Сохранены ли причинность, масштаб, хронология и оговорки?
• Не исчезло ли главное напряжение?
Проход 4. Голос
• Узнаётся ли позиция?
• Есть ли конкретный опыт?
• Не стал ли текст безопасно-усреднённым?
Проход 5. Риск
• Что произойдёт, если это неправда?
• Соблюдены ли права, согласия, конфиденциальность и профессиональные нормы?
Практика
Возьмите один ответ ИИ, который собирались использовать в работе.
Разметьте его цветами или комментариями:
Метка — Что означает
Источник — Есть прямое подтверждение во входных данных
Вывод — Интерпретация, которую должен принять человек
Внешнее — Требуется независимый источник
Риск — Ошибка повлечёт заметные последствия
Голос — Фраза меняет позицию или отношение автора
Затем:
  1. Удалите всё, происхождение чего не удалось установить.
  2. Проверьте важные внешние утверждения по первоисточникам.
  3. Верните утраченные оговорки и конкретику.
  4. Перепишите один абзац не «в своём стиле», а из собственной позиции.
  5. Посчитайте время всей проверки.
  6. Решите, стоило ли делегировать эту операцию и как изменить следующий бриф.
Что получается
Проверенный рабочий материал и процедура приёмки, которую можно повторять самому или в команде.
Как понять, что гексагон пройден
• Проверен адрес задачи.
• Утверждения разделены по происхождению.
• Важные факты подтверждены первоисточниками.
• Цена ошибки назначена до публикации.
• Фактическая и смысловая точность проверены отдельно.
• Голос не сводится к лексике.
• Сохранены оговорки, масштаб и причинность.
• Проверены права, согласия и конфиденциальность.
• Время приёмки включено в оценку пользы ИИ.
• Финальное решение принял названный человек.
Что забрать с собой
Профессионализм при работе с ИИ виден не по сложности промпта, а по способности принять ответственность за результат: понять его происхождение, увидеть искажение и не выпустить то, что только выглядит готовым.
Куда дальше
• A08 Где ИИ использовать нельзя или опасно
• A07 Почему текст ИИ получается пластмассовым
• D03 Как принять чужую работу
• A05 Где нужен поиск, где ИИ, а где человек