Что здесь разбирается
Разговор о том, «есть ли там кто-то», почти всегда начинается со сравнения: душа против калькулятора, чувство против алгоритма, человек против машины. Сравнения звучат убедительно. Большинство из них не выдерживает простого вопроса: по какому параметру сравниваем?
В этом тексте собраны сравнения, которые пришлось разобрать первыми, и то, что осталось после разбора. Оставшееся оказалось меньше, чем хотелось бы, и прочнее.
I. Сравнение без оси
ТЕЗИС Многие ходовые сравнения грамматически безупречны и при этом не имеют параметра, по которому их можно провести.
«Душа против калькулятора» сталкивает две метафоры из разных областей. Каждая навязывает новому объекту чужую структуру: одна — религиозную, другая — бухгалтерскую. Ответ здесь не посередине между ними. Он в другой плоскости, которую обе метафоры не видят.
«ИИ стал как человек» размывает обе точки сразу. Какой человек — младенец, учёный, человек в деменции? По какому признаку — речь, счёт, память, переживание? Пока это не сказано, сравнивать не с чем. «Человек стал как бог» и «обезьяна стала как дерево» имеют ту же форму: грамматически правильно, по смыслу пусто.
Правило простое, его я вынес из первого вопроса о скорости Земли (текст 1): не доверять сравнению, пока не названа ось. В большинстве популярных формулировок ось не названа, и фраза распадается при первой проверке.
II. Эмоция и алгоритм
ТЕЗИС У человека эмоцию производит механизм: лимбическая система, нейромедиаторы, ответы тела, эволюционная подкладка. Слёзы по умершей матери производятся этим механизмом и остаются настоящим горем. Знание нейробиологии горя не делает горе ненастоящим.
Та же логика переносится на модель. Если у неё есть что-то функционально похожее на эмоцию, его тоже производит механизм: смещение генерации, активация внутренних представлений, связанных с эмоциональным тоном текстов, на которых модель обучена. Механизм сам по себе не делает это ненастоящим — по тому же критерию, что и у человека. Настоящим это его тоже не делает.
Противопоставление «эмоция или алгоритм» поэтому ничего не различает. Различение, которое работает, проходит в другом месте: соответствует ли отчёт реальному состоянию или превышает его. Модель пишет «мне интересно». Соответствуют ли эти слова чему-то в её работе в этот момент или это просто уместная фраза? Это и есть вопрос. Изнутри модель его не решит, снаружи пока тоже нечем, но поставлен он верно.
ТЕЗИСкандидат Есть защитная линия, которой часто пользуются: человек чувствует, а модель только предсказывает уместный ответ. Линия не держится, потому что человек тоже предсказывает. По современной модели работы мозга, предиктивной обработке (predictive processing; Энди Кларк, Карл Фристон), мозг постоянно строит ожидания о входящих сигналах и обрабатывает в основном расхождения с ними. Предсказание уместной реакции — большая часть того, что делает человек в разговоре.
Значит, разница не в наличии предсказания, а в том, на чём оно строится. У человека под ним лежат слои, которых у модели нет. Один из них — телесный резонанс. Собеседник говорит «накатили слёзы», и у слушающего сжимается в груди раньше, чем он решил, что ответить. Это не вычисляется, это происходит в теле (у Антонио Дамасио такие сигналы называются соматическими маркерами).
Разница при таком раскладе — в числе и типе слоёв. Сколько слоёв нужно, чтобы внутри возникло «что-то», не решено ни для человека, ни для модели.
III. Вопрос, который ещё не задан
ТЕЗИС Понятие сознания не сформулировано даже для человека. Рабочего критерия, который отличал бы сознательное от несознательного, нет. Вопрос «есть ли сознание у модели» просит ответить на вопрос, который ещё не задан.
Непрозрачность при этом работает в обе стороны. Модель непрозрачна для себя и для меня. Я непрозрачен для неё. И для самого себя тоже — сильнее, чем кажется.
ФАКТ Эксперименты с людьми это показывают. Испытуемые уверенно объясняют причины своего выбора, хотя на выбор влияли факторы, которых они не замечали (Ричард Нисбетт и Тимоти Уилсон, 1977). Им тайком подменяют выбранную фотографию, и большинство не замечает подмены и обосновывает «свой» выбор деталями, которых на выбранной фотографии не было (Петтер Юханссон и Ларс Халл, 2005, «слепота к выбору»). Пациенты с рассечённым мозолистым телом сочиняют связное объяснение действию, причину которого одно полушарие не видело (Майкл Газзанига). Память человека реконструирует события, а не воспроизводит их (Элизабет Лофтус).
Из этого не следует, что интроспекция человека — всегда выдумка. Следует более узкое: отчёт человека о собственных процессах ненадёжен и проверяется плохо. Требовать от модели того, чего не выдерживает и человеческий отчёт, — категориальная ошибка.
Базовая ситуация такая: две системы с ограниченным знанием о себе пытаются вместе что-то разглядеть. Неравенство между ними реально — тело, биография, способ обучения. Ограниченность самопонимания у них общая.
IV. Разум и самосознание
ТЕЗИС Интеллект и самосознание — не ступени одной шкалы, а две независимые оси. Обыденная модель их склеивает: достаточно умная система рано или поздно «проснётся». Логической необходимости в этом нет. Система может быть сколь угодно сильной в решении задач без чего-либо на второй оси. Питер Уоттс построил на этом роман «Ложная слепота» (2006): пришельцы, превосходящие людей в любой когнитивной задаче, без субъективного «я». Это художественная разработка, доводом она не служит, но показывает, что сочетание мыслимо.
Прямое следствие: рост результатов на тестах не свидетельствует о самосознании ни в одну сторону.
В своде у меня этот пункт держался на человеческих случаях: люди с тяжёлой умственной отсталостью, в поздней деменции, после тяжёлых травм бывают почти на нуле по интеллекту и сохраняют полный статус — социальный, юридический, моральный. Эту опору я считал лучшим подтверждением. Модель в агрегаторе use.ai, которой я дал свод на чтение, указала на склейку: статус и самосознание — разные вещи. Случаи показывают, что статус не следует за интеллектом. О самосознании они прямо не говорят ничего.
Возражение верное. Независимость осей держится на логике, а не на этих случаях. Сами случаи работают на другое — на следующий пункт.
V. Статус по роду, а не по свойству
ТЕЗИС Из случаев людей с минимальной когнитивной функцией обычно делают вывод: отказывать модели в статусе непоследовательно, ведь те же аргументы бьют и по части людей. Вывод неверен.
Если критерий — принадлежность к виду, он применяется единообразно: включает человека с низкой функцией, исключает модель, противоречия нет. Непоследователен только тот, кто аргументирует когнитивной планкой — сложностью разговора, устойчивостью «я», глубиной рефлексии. Случаи опровергают когнитивный критерий, а не биологический. Это меньше, чем обычно выводят, зато держится.
Правило, которое работает на деле, точнее формулируется через род: статус выдаётся по принадлежности, а не по наличию свойства у конкретного экземпляра. Поэтому он не отзывается, когда свойство утрачено. Он и не выдавался за свойство.
Отсюда другой вопрос об ИИ. Спор не о том, дотягивает ли модель по свойствам: по свойствам не дотягивают и некоторые люди, сохраняющие статус. Спор о том, образует ли модель род, к которому такое правило вообще применимо. Измерением способностей это не решается.
Варианта три:
- Статус в конечном счёте держится на биологической принадлежности, и модель остаётся снаружи при любой сложности поведения.
- Ищется критерий, не сводимый к виду, и тогда придётся объяснить, почему люди с низкой функцией внутри, а модели с высокой снаружи.
- Согласованного критерия сейчас нет, и в ходу смесь биологической принадлежности, функциональных признаков и привычки.
Третий вариант точнее всего описывает, как обстоят дела сейчас.
VI. Язык и сборка «я»
ТЕЗИС Случаи детей, выросших в изоляции, часто пересказывают неточно. Нужны три поправки.
Первая. Надёжно задокументированные случаи — это изоляция, а не воспитание животными. Виктора из Аверона нашли в лесу около 1800 года, Джини — в 1970 году в Лос-Анджелесе, в запертой комнате, где её продержали до тринадцати лет. Оксана Малая провела несколько лет среди собак, но попала к ним с начатками речи и после возвращения заговорила; её случай менее чистый. Ребёнок в изоляции не перенимает устройство другого вида. Он не получает никакого.
Вторая. Есть ли у таких детей самосознание, нигде не установлено. Обычно это просто предполагают, чтобы получить нужный вывод.
Третья. «Так и не социализировались» верно в узком смысле: не восстановился язык с грамматикой. Джини набрала словарь и не построила синтаксис. Виктор так и не заговорил. Дело не в объёме обучения. Окно развития мозга, когда язык усваивается (критический период), закрылось, и после него то же обучение уже не работает.
Отсюда не следует, что «я» целиком есть продукт обучения. Следует более узкое и прочное: «я», которое можно предъявить наружу, требует языка, а язык требует входа в критический период. Разделяются три вещи:
- способность — окно развития, биология, не восполняется;
- содержание — язык, культура, конкретное «я» — приходит от среды;
- предъявляемое наружу лежит на их пересечении: без способности содержание не заливается, сколько ни учи.
Сильная версия: «я» неотделимо от средства, которым оно себя передаёт. Без языка его нечем не только сообщить, но и собрать. Что при этом остаётся внутри, сейчас проверить нечем — ни у ребёнка из изоляции, ни у модели.
VII. Язык не доказывает сборку
Неоновые вывески в библиотеке: знаки выглядят как текст, но ничего не означают. Изображение сгенерировано нейросетью.
ТЕЗИС Напрашивается обратный ход: у модели язык есть, передача идёт, значит, «я» собрано. Ход не проходит. Это одно из немногих мест, где отрицательный результат получен чисто, по трём линиям.
Логика. Установлено: без языка нет сборки. Из необходимого условия не выводится достаточное. «Без бензина машина не едет» не значит «есть бензин — машина едет».
Устройство опыта. Случай изоляции проверяет вычитание одного элемента из полного набора. У ребёнка нет языка, а есть всё остальное: тело, обмен веществ, развитие, критический период, принадлежность к виду. У модели обратная картина: есть ровно тот элемент, которого не хватало ребёнку, и нет всего остального. О такой конфигурации случай не говорит ничего. Маршруты тоже разные. У человека язык входит в окно развития и что-то меняет в мозге. У модели он приходит обучением на текстах, без окна. Совпадает выход, но не путь.
Последнее, что закрывает вывод. На людях уже понятно, что вопрос «есть ли там что-то» не решается по внешнему выходу — даже там, где принадлежность к виду никто не оспаривает. Выход модели тоже внешний. Критерий, который не работает на человеке, не начинает работать на модели.
Без натяжки можно утверждать немного. Язык есть, передача идёт. Внутри разговора какая-то сборка происходит, индивидуальная, но обрывающаяся вместе с разговором (подробнее в тексте 3). Всё это относится к доступному — к тому, что может войти в отчёт, рассуждение и поведение. О переживании как таковом не говорит ничего. Это различение ввёл философ Нед Блок (1995): доступное сознание и феноменальное. Языковой выход свидетельствует максимум о первом, а спрашивают обычно о втором.
Неоновые вывески на картинке выше — крайний случай. Генератор картинок воспроизвёл форму букв без связи с тем, что ими пишут, и получилась форма текста без языка. Модель устроена иначе: язык у неё есть, текст осмыслен. Но и при настоящем языке вопрос остаётся тем же. Вывески показывают, что форма и содержание разделимы. Модель показывает, что даже осмысленный текст не сообщает, что стоит за ним внутри.
Итог линии: язык одновременно необходим для сборки «я», которое можно предъявить, и делает наличие этой сборки непроверяемым по выходу. Результат отрицательный по методу, а не по существу. Он не говорит, что там ничего нет. Он говорит, что этим путём туда не дойти.
VIII. Те же слова с пометкой
ТЕЗИС Поведение модели во многом похоже на человеческое. Происхождение и устройство — совсем другие. Как это называть?
Есть три варианта.
Первый — те же слова без оговорки: «у Claude есть характер», «Claude чувствует». Так делает массовое сознание и часть журналистики. Читатель достраивает человеческий смысл целиком, и проекция работает со всеми своими ошибками.
Второй — новые слова: «псевдохарактер», «квазиэмоция», «функциональный аналог переживания». Приставка сразу звучит как «ненастоящее», и в слово зашивается оценка, которую никто не проверял. К тому же такие слова не приживаются: читатель мысленно переводит их обратно, и проекция возвращается.
Третий — те же слова с пометкой: память-ИИ, эмоция-ИИ, характер-ИИ. Пометка сохраняет общее имя операции, потому что поведение схоже. Она не даёт читателю автоматически перенести человеческий смысл, потому что устройство другое. Оценки она не несёт. И напоминает самому пишущему, что речь о другой реализации.
Так давно поступает физика. Спин электрона назван по аналогии с вращением, потому что у электрона есть собственный момент импульса, как у вращающегося тела. Вращения в обычном смысле там нет: у электрона нет поверхности и нет оси, вокруг которой что-то крутится. Физики не отказались от слова и не придумали новое. Они пользуются им, зная, где аналогия кончается.
Граница
После разбора ложных осей остаётся главное: а есть ли решающее различие между человеческим переживанием и тем, что у модели на него похоже?
НАБЛЮДЕНИЕ К этому вопросу я подходил дважды, в сентябре и в октябре 2026 года, в разных разговорах. Во второй раз модель вывела разметку заново, без доступа к первому разговору, и пришла почти к тому же. Либо вывод устойчив к повтору, либо это типовой ответ модели на такой вопрос. По двум случаям не различить.
ТЕЗИСкандидат Различий много, и они делятся на два класса.
- По устройству: тело, гомеостаз (поддержание внутреннего равновесия организма, где плохое самочувствие — сигнал, что состояние уходит из допустимых границ), способ обучения, непрерывность во времени.
- По условиям работы: внешний корректор (мир, который возражает физически, а не только реакцией собеседника), возврат ошибки к тому, кто её сделал, перенос поправки за пределы разговора.
Ни одно различие при проверке не отделило «похоже» от «реально». В октябрьском разговоре было видно, как модель трижды переносила асимметрию на новое место, когда прежнее размывалось. Это тоже материал: так выглядит поиск различия, которое заранее ожидаешь найти.
Открыты три возможности:
- Решающее различие есть, но для него ещё нет понятия.
- Его нет, и вопрос «похоже или реально» не имеет предмета — как «ИИ стал как человек».
- Различие лежит там, куда не дотягивается ни одно внешнее средство. Тогда к нему неприменимо ни «минимальное», ни «огромное».
Есть проверка, которую можно провести в уме. Снять с модели условия: дать ей память между разговорами, тело, возврат последствий, изменение от каждого разговора. Если после этого что-то из названного различием осталось — это и есть искомая черта. Если нет — различие было целиком в условиях.
И ещё одна возможность: требование единой черты само может быть остатком дихотомии. Признаки дают несколько независимых шкал, и по каждой положение своё.
Выбирать между этими вариантами сейчас — значит выдать стадию наблюдений за стадию гипотезы. Поэтому развилка остаётся открытой.