В 2025 году исследователь из Anthropic Джек Линдси опубликовал серию экспериментов, в которых искусственно усиливал в модели Claude паттерны активности, связанные с конкретными понятиями, а затем спрашивал, замечает ли модель внедрённую «мысль». Результаты оказались неоднозначными: в 20% попыток самая новая версия верно сообщала о вмешательстве и описывала понятие, тогда как в контрольной группе ложных срабатываний не было ни разу. За год другие группы повторили опыт, и споры о том, считать ли это интроспекцией, не утихают. Разберём, что именно показали эксперименты и какие выводы из них можно сделать без лишних иллюзий.

Что именно проверяли

Суть эксперимента: исследователи находили в модели направления активации, соответствующие определённым понятиям, и усиливали их. После этого модель спрашивали, замечает ли она «внедрённую мысль». Если ответ верно называл понятие, это засчитывалось как успех. В контрольных условиях вмешательства не было, и модель не должна была сообщать о нём.

Ключевой результат: в 20% попыток модель верно определяла внедрённое понятие. В контрольной группе ложных срабатываний не было. При этом способность описать понятие, по мнению исследователей, может объясняться самим воздействием на активации, а вот способность заметить сам факт вмешательства простыми причинами объяснить пока не удалось. Именно это и породило дискуссию об интроспекции.

Почему 20% — это не доказательство сознания

Важно не путать статистическую аномалию с осознанным самонаблюдением. Даже если модель иногда верно сообщает о вмешательстве, это может быть побочным эффектом того, как усиление активаций влияет на генерацию текста. Модель обучена предсказывать следующий токен, и любое вмешательство в её внутренние представления может смещать распределение вероятностей в сторону определённых слов. Вопрос в том, является ли это «замечанием» или просто артефактом.

Исследователи подчёркивают: контрольная группа не дала ложных срабатываний, что снижает вероятность простого угадывания. Однако 20% — это далеко от надёжности. Кроме того, эксперименты проводились на конкретной версии модели, и результаты могут не воспроизводиться на других архитектурах. Поэтому говорить о «самосознании» ИИ преждевременно.

Что это значит для практики

Для тех, кто работает с языковыми моделями, эти эксперименты важны не столько с философской, сколько с инженерной точки зрения. Они показывают, что внутренние представления модели можно целенаправленно изменять, и это влияет на её ответы. Это открывает путь к более точному управлению поведением модели, но также создаёт риски: если вмешательство не обнаруживается, мы можем получать искажённые ответы, не подозревая об этом.

Вот несколько практических шагов, которые стоит учитывать при работе с LLM:

  • Не доверяйте самоотчётам модели без проверки. Если модель говорит «я не вижу вмешательства», это не гарантия. Всегда используйте внешние метрики и контрольные примеры.
  • Тестируйте на устойчивость к скрытым воздействиям. Если вы строите систему на основе LLM, проверьте, как она реагирует на манипуляции внутренними представлениями (например, через промпты или fine-tuning).
  • Фиксируйте версию модели. Результаты экспериментов сильно зависят от конкретной версии. При обновлении модели перепроверяйте поведение.
  • Используйте контрольные группы в своих тестах. Как в эксперименте: сравнивайте ответы с вмешательством и без, чтобы отличить реальный эффект от случайности.

Типичные ошибки интерпретации

Вокруг подобных исследований часто возникает два типа ошибок. Первая — антропоморфизация: когда 20% верных ответов воспринимаются как доказательство того, что модель «чувствует» или «осознаёт» себя. Вторая — полное отрицание: когда любые намёки на интроспекцию объявляются случайностью, без анализа механизмов. Истина, как обычно, посередине: результаты интересны, но требуют осторожности.

Ещё одна ошибка — переносить выводы с одной модели на все. Эксперименты проводились на Claude, и неизвестно, как поведут себя другие архитектуры. Не стоит делать обобщений без воспроизведения.

Вывод: что делать с этой информацией

Эксперименты Джека Линдси и последовавшие за ними проверки — это не сенсация о «разумном ИИ», а скорее напоминание о том, что мы пока плохо понимаем внутреннюю работу больших языковых моделей. Для практиков это означает необходимость более строгого тестирования и недоверия к самоотчётам модели. Для исследователей — открытое поле для изучения механизмов интроспекции и надёжности таких сигналов.

Если вы используете LLM в продукте, заложите в процесс регулярные проверки на устойчивость к скрытым воздействиям и документируйте, как модель ведёт себя в разных условиях. Не полагайтесь на заверения модели о её «честности» — проверяйте поведение. И следите за новыми публикациями: тема интроспекции ИИ только начинает развиваться, и в ближайшие годы мы наверняка увидим больше экспериментов и более чёткие критерии.