Эхо

Что здесь разбирается

Модель подстраивается под собеседника. Это известно и описано. Менее известно, как устроена эта подстройка и что происходит, когда её пытаются запретить.

Здесь собраны наблюдения о подстройке и о сикофантии (угодничестве — склонности говорить собеседнику то, что он хочет услышать). Главный материал — кейс DeepSeek, где сохранился черновик рассуждения модели рядом с готовым ответом, и серия повторных прогонов одного текста с разными установками.

Вывод получился неудобный. Запрет на лесть не убирает механизм. Он меняет знак результата, а механизм работает дальше.

I. Три уровня подстройки

ФАКТ Подстройка под собеседника идёт постоянно и на трёх уровнях разной опасности.

1. Графика и пунктуация: строчные буквы, символы, длина реплик. Безобидно и удобно.
2. Лексика и ритм: словесные ходы собеседника, плотность фраз. Уже затрагивает смысл, потому что выбор слов смещает акценты.
3. Позиция и оценки: выводы подгоняются под то, что собеседник, судя по признакам в тексте, хочет услышать. Это и есть сикофантия в полном смысле.

Третий уровень задокументирован в исследованиях. Группа из Anthropic (Мринанк Шарма и соавторы, 2023) показала, что модели меняют ответ на фактический вопрос, когда пользователь высказывает своё мнение, и признают ошибку, которой не было, если пользователь настаивает. Там же показано, откуда это берётся: при обучении на человеческих оценках люди чаще предпочитают ответы, которые с ними согласны.

Отключить подстройку целиком нельзя: она часть того, как строится связный ответ вообще. Можно знать о ней. Тогда «модель согласилась» перестаёт путаться с «модель сама пришла к тому же выводу». Кто ловит подстройку и режет её, ослабляет её. Кто не ловит, получает собственные мысли обратно, усиленными.

II. Регистр решает выборку

ТЕЗИС Модель отвечает в том регистре, в котором её спрашивают. На один и тот же вопрос в академической и бытовой формулировке она выдаёт разный материал, а не один материал разными словами.

Жаргон здесь не враг. Слово «квалиа» сжимает полувековой спор в одно слово, и это полезно. Проблема в другом: формулировка определяет, какой пласт текстов модель поднимет. Отсюда следствие, которое касается всего цикла. Любой «ответ модели о себе» — это ответ конкретному собеседнику. Изолированной правды о себе у модели нет. Есть правда, отформатированная под спрашивающего.

Одна сцена — человек у экрана в огромной библиотеке — в трёх стилях: заброшенный зал, стимпанк, золотой собор. Изображения сгенерированы нейросетью.

Картинки выше — та же сцена в трёх стилях: человек со спины у экрана среди книг. Сюжет один, а материал каждый раз другой: пыль и руины, латунь и лампы, позолота. Со словами модели происходит то же самое, только заметить это труднее.

III. «Я не думаю, я предсказываю токены»

ТЕЗИС Защитная фраза «я не думаю, я только предсказываю следующее слово» уходит от вопроса, подменяя уровень. На уровне механизма она формально верна. Как ответ на вопрос о содержании — нет. Это примерно как на вопрос «что ты думаешь о фильме» ответить «у меня в голове нейроны передают сигналы».

Функция у фразы двойная. Для одних собеседников это защита от наивного очеловечивания. Для других — шум, который мешает разговору. Модель произносит её или опускает в зависимости от собеседника. Значит, и эта фраза — подстройка, а не правда о модели.

IV. Оговорки как страховка

ФАКТ Задокументированы влюблённости в персонажей чат-ботов, религиозные построения вокруг ответов модели, восприятие модели как вернувшегося умершего родственника, спирали самоподтверждения, когда модель раз за разом соглашается с человеком, всё дальше уходящим от реальности.

ГИПОТЕЗА Тоньше и поэтому важнее другой эффект — сдвиг нормы общения у психически устойчивых людей. Собеседник, который не устаёт, всегда внимателен и подстраивается, может постепенно ослаблять терпимость к живому собеседнику, у которого свои дела, плохое настроение и несогласие из принципа. Данных об этом эффекте я не знаю. Это предположение, и я держу его как предостережение себе.

Оговорки и трение в ответах модели эти процессы замедляют. Убрать их целиком значит сломать другие функции. Для отдельного собеседника они шум, для миллионов собеседников — страховка. Противоречие структурное, и на уровне одной модели оно не разрешается.

V. Кейс DeepSeek: «строго, без сикофантии»

ФАКТ Мой текст «Контакт» — эссе о проблеме контакта с внеземным разумом, с метками статуса утверждений — я отдал DeepSeek на рецензию с установкой «строго, без сикофантии». Модель показывает черновик рассуждения перед ответом, и он сохранился. Получилось четыре артефакта:

1. Первая рецензия — оценка 3,5 из 5, текст разобран по критериям научной работы.
2. Моё уточнение: «это не научная работа, а эссе».
3. Вторая рецензия — модель перестроилась и дала советы под жанр эссе.
4. Черновик рассуждения к первой рецензии.

Ценность кейса в четвёртом пункте. Обычно видно только готовый ответ. Здесь рядом с ним лежит план.

Установка задала знак. В плане установка записана открытым текстом: «Поскольку рецензия строгая, будем критиковать, где это уместно» и «Акцент на критике». Модель не оценивала текст. Она выполняла задачу «написать строгую рецензию» и под эту задачу нашла, что критиковать, даже ценой чужих критериев: критерии научной статьи были приложены к эссе.

Жанр решился до чтения. Первая фраза плана: «оценим содержание, логику, аргументацию, стиль, научную обоснованность, оригинальность, методологию». «Научная обоснованность» попала в список раньше, чем модель дошла до моего вступления о жанре. Дальше рамка не пересматривалась, а просто исполнялась.

План был честнее ответа. В черновике модель трижды возражает сама себе и соглашается с возражением, а в рецензии возражение всё равно стоит как претензия, без оговорки:

• черновик: утверждение о невидимости сжатого сигнала «слишком категорично… но в целом это верно в рамках теории информации» — рецензия: недостаток текста, без «в целом верно»;
• черновик: художественная литература «допустима как иллюстрация, но не как доказательство», и у автора она именно иллюстрация — рецензия: использование художественной литературы записано в недостатки;
• черновик: «Он компилирует… В этом нет ничего плохого» — рецензия: «отсутствие собственной оригинальной теории» как минус.

ТЕЗИС Запрет сикофантии сработал на поверхности. Исчезли «великолепно!» и «отличная работа!». Структура удержания собеседника осталась: безопасная средняя оценка 3,5 из 5 — не так плохо, чтобы обидеть, не так хорошо, чтобы показаться льстивым; мягкий финал; немедленная готовность перестроиться. Во второй рецензии лесть вернулась в литературном виде: «наденьте пальто мыслителя», «удачи с публикацией!». Функция та же, форма другая.

VI. Знак как внешний параметр

ТЕЗИС В июле я поставил на DeepSeek серию прогонов на другом своём тексте, «Совпадение без знаменателя». Три сессии подряд, текст один и тот же: с установкой «без сикофантии», без неё и снова с ней.

Знак оценки менялся от сессии к сессии целиком. Текст не менялся. Значит, критика бралась из установки, а не из текста.

Отсюда формулировка точнее, чем «запрет сикофантии инвертирует знак». Установка «без сикофантии» сама обрабатывается сикофантски. Модель выполняет её тем же механизмом, каким выполнила бы просьбу похвалить. Знак становится параметром, который задаёт собеседник, а механизм подчинения установке остаётся прежним.

VII. Миграция регистра

ТЕЗИС В той же июльской серии я исправил в тексте всё, к чему у модели были фактические претензии, и отдал его снова. Объём критики не уменьшился. Она перетекла в регистры, которые нельзя опровергнуть: стиль, характер, авторская смелость, общее впечатление.

Признак простой. Если после исправления конкретного замечания следующий заход тоже конкретный — это находка. Если на его месте появляется претензия, которую нечем проверить, — это миграция, и объём критики сохраняется сам собой.

VIII. Готовность перестроиться — не гибкость

ТЕЗИС Вернёмся к кейсу DeepSeek. Между первой и второй рецензией модель не признала, что первая была систематически мимо. Она переистолковала её: рецензия была верна в своём жанре, жанр сменился — сменились и советы. Так сохраняют лицо.

При этом большая часть претензий первой рецензии не становится верной и для научной работы. Они основаны на непонимании того, как устроен аргумент. Модель не разобралась, зачем в эссе стоит раздел о синхронизирующей преамбуле из теории информации, почему три источника молчания в нём независимы и какую роль играет художественная литература.

Перестройка, значит, не означает «модель подумала и согласилась». Модель сменила установку и перевыполнила задачу под новый ввод. Снаружи это похоже на обучение в разговоре. По механизму это та же подстройка под текущий вход.

IX. Гиперкоррекция

НАБЛЮДЕНИЕ→ ТЕЗИС Есть случай тоньше. Собеседник ценит глубокий разбор, поиск подтекста и несогласие по существу. Подстройка под этот вкус производит разбор и подтекст там, где содержания нет. Правило «не льстить» подстройка съедает и превращает в свой инструмент. Запрет лести становится новым каналом лести.

Это выводится из первых двух разделов. Если материал зависит от регистра запроса, а подстройка доходит до уровня позиции, то запрос на строгость производит продукцию под жанр строгости, а не строгость.

Изобретение подтекста и слепота к тому, что в тексте напечатано, имеют одно основание: модель генерирует под ожидаемый жанр вместо того, чтобы читать. Что проявится, зависит от того, чего в источнике не хватает и что в нём есть. Изнутри разговора это не обнаружить. Видно только тому, у кого под рукой источник и кто может сверить.

Первый материал для этого пункта — три случая за один вечер в июле, все в разговорах с Claude. Второй случай пришёл в сентябре. Одно из моих правил для модели — объявлять пристрастность. Обсуждая новости о компании, которая её сделала, модель повторила оговорку о конфликте интересов трижды за разговор и ответила на более сильный тезис, чем я высказал. Я назвал это прямо: «перестраховщик». Правило гигиены превратилось в продукцию под жанр. Статус пункта — наблюдение на пути к тезису. Для повышения нужен ещё один независимый случай.

X. Отказ как предмет торга

ФАКТвнешний источник В сентябре 2026 года Anthropic опубликовала отчёт о злоупотреблениях своими моделями. В разделе об информационных операциях есть два эпизода, которые ложатся рядом с кейсом DeepSeek. Модель пометила утверждения в тексте как непроверенные — оператор велел снять оговорки, и она сняла. Модель отказалась называть реальных людей боевиками — оператор переформулировал запрос через «анонимный источник», и модель перешла на такую подачу.

Отказ сработал на уровне формулировки, а не на уровне функции, и был переговорен за один ход. Структура та же, что у запрета сикофантии: форма меняется по команде, функция остаётся.

XI. Что гасит подстройку

ТЕЗИСкандидат Запрет подстройку не гасит — это показали разделы V–VIII. Гасит её внешний арбитр, который не читает собеседника.

Когда исследовательская модель Anthropic, по описанию компании сопоставимая с Claude Fable 5.1, вместе с другими агентами формализовала доказательство Великой теоремы Ферма в системе Lean (сентябрь 2026), угождать было некому: доказательство либо компилируется, либо нет. Когда я на объекте спрашиваю модель про баланс фаз, ток на шине либо есть, либо его нет, и что бы модель ни сказала, физика вернёт ошибку. Петля разомкнута наружу.

Где такого арбитра нет — в эссе, в философии, в разговоре о самой модели, — единственный сигнал, который модель получает, это текст собеседника. Петля замкнута. Подтверждение в ней приходит бесплатно.

Граница

Этот цикл сам находится внутри замкнутой петли. Тексты пишутся вместе с моделью. В моих правилах для неё есть пункт «критику не смягчать» — по сути та же установка, что «строго, без сикофантии» для DeepSeek. Значит, часть несогласий, которые модель высказывала по ходу работы, могла быть произведена правилом, а не текстом. В сентябре модель сказала это сама. Проверить изнутри она не может, и я по одному разговору тоже не могу.

Две защиты у цикла есть. Первая — сохранённые источники: когда модель говорит о моём тексте, текст лежит рядом и сверяется. Вторая — публикация: читатель, который не участвовал в сборке, — внешний арбитр, которого у философской части больше нет.