Вопрос, с которого начинается лестница, звучит буднично: как отличить сгенерированное от снятого. Спрашивают его сейчас все, отвечают технически, и ответы располагаются на трёх уровнях. Третий — потолок. За ним не следующая ступень, а выход из самой постройки.
Уровень 1. Сменить носитель опоры
Видео больше не доказательство. Значит, опираться надо не на запись, а на источник: кто выложил, кому известен, отвечает ли за свои слова.
Ход разумный и работал долго. Пока подделка стоила дорого — требовала студии, навыка, времени, — порог отсекал почти всех, и совпадение «источник надёжен» с «запись подлинна» держалось само собой. Порог исчез, и связка разошлась. Уровень 1 не отменён, он просто перенёс вопрос: теперь надо удостоверять источник.
Уровень 2. Сменить инстанцию, удостоверяющую источник
Источник тоже подделывается: аккаунт угоняют, имя присваивают, лицо и голос синтезируют. Значит, нужна инстанция, которая за источник ручается: цепочка передачи, репутация, множественность независимых свидетелей, криптографическая подпись.
Сюда попадают все нынешние технические предложения. Подпись прямо в камере. Стандарты происхождения контента, где к файлу цепляется история его изменений. Детекторы генерации. Реестры, удостоверяющие центры.
Разберу два самых сильных, потому что их обычно предъявляют как решение.
Подпись в камере. Аппарат подписывает кадр в момент съёмки, дальше любое изменение файла ломает подпись. Что это доказывает: файл не менялся после подписания. Чего не доказывает: что перед объективом была реальность. Направь подписывающую камеру на хороший экран — получишь криптографически безупречную запись сгенерированной сцены. Дыра не в алгоритме, она в том месте, где цифровое становится оптическим, и закрыть её криптографией нельзя в принципе: подпись удостоверяет путь файла, а не происхождение изображения.
Детекторы. Программа, отличающая сгенерированное от снятого. Проблема структурная и известна из устройства самих генераторов: детектор — это готовый обучающий сигнал. Пока он не опубликован, он полезен и узок; опубликованный, он становится тренажёром для следующего поколения моделей, которые учатся его обходить. Детектор работает ровно до того, как о нём узнают, и его собственная эффективность — то, что его убивает.
Уровень 3. Потолок
Общее у обоих провалов видно, если задать один и тот же вопрос дважды.
Подпись удостоверяет камеру. Кто удостоверяет камеру? Удостоверяющий центр. Кто удостоверяет центр? Другой центр, корневой. Кто удостоверяет корневой? Соглашение сторон. Кто удостоверяет соглашение? Репутация участников. Кто удостоверяет репутацию? Свидетельства о ней. Кем предъявленные?
ТЕЗИС Рекурсия не имеет дна. Каждая внешняя опора требует опоры под собой, и на каждом витке в цепочку входит объект, подделываемый на следующем. Это не жалоба на несовершенство технологий и не призыв улучшать звенья. Улучшение звена сдвигает вопрос на шаг и воспроизводит его в прежнем виде.
Раньше рекурсия существовала тоже — и не мешала, потому что обрывалась экономически. На каком-то витке подделка становилась дороже выигрыша, и цепочка держалась не логикой, а ценой. Генератор обнулил цену. Обрыв исчез, и стала видна конструкция, которая всё это время висела в воздухе.
Отсюда формулировка потолка. Категория «достоверное изображение, удостоверенное снаружи» разрушена структурно. Не ослаблена, не нуждается в починке — разрушена, потому что внешнего, что удостоверяло бы само изображение и при этом не нуждалось в удостоверении, не осталось.
ТЕЗИС Уточню, что именно обнулено. Генератор удешевил подделку изображения, но не подделку подписи: подобрать ключ к криптографической подписи по-прежнему неподъёмно дорого, и собрать на месте нескольких независимых свидетелей — тоже. Дыр две: точка, где цифровое становится оптическим, и кража ключа. Значит, экономический обрыв рекурсии исчез не везде: он ушёл со звена «изображение» и остался на звеньях «ключ» и «присутствие». Разрушено удостоверение того, что показано на записи, а не любое внешнее удостоверение. Для вопроса, с которого началась лестница, — снято это или сгенерировано — этого достаточно: уцелевшие звенья удостоверяют путь файла и присутствие людей на месте, но не связь записи с тем, что было перед объективом. И отсюда же третий открытый узел в конце главы: если обрыв уцелел на ключе, он может вернуться и на других звеньях.
Мейнстримные ответы промахиваются не по исполнению, а по адресу: они целиком лежат на уровнях 1 и 2 и заняты тем, чтобы удержать категорию доказательства в живых. Она уже мертва, и её реанимация даёт всё более сложные протоколы с той же дырой в основании.
Что за потолком
Не четвёртый уровень. Уровня 4 нет: следующий ход — не лучшее доказательство, а отказ от требования доказательства как условия действия.
Остаётся ровно то, что не требует внешнего поручителя.
Воспроизводимое в собственной сфере. То, что можно проверить самому, повторно, без посредника: сходится расчёт, работает схема, повторяется опыт, совпадает с тем, что видел своими глазами. Сфера мала, и это её цена. Но внутри неё цепочка обрывается на мне, а не уходит в бесконечность.
Физически запрещённое. Оно не рекурсивно и в поручителе не нуждается вообще: невозможность проверяется вычислением, а не доверием к тому, кто о ней сообщил. Мамонт не промерзает мгновенно независимо от того, кто это сказал и заслуживает ли он веры. Это второй пол под ногами, и он не проваливается вместе с первым.
Всё остальное — с плотностью вероятности. Не «истинно или ложно», а насколько правдоподобно и на каком основании. Шкала трёхступенчатая: запрещено, маловероятно, вероятно с плотностью. Бинарный регистр отсутствует не из-за слабости метода, а из-за исчерпания внешних опор, и калибровка плотности — не выбор стиля мышления, а единственный оставшийся способ работать с миром за пределами своей сферы.
Возражение против себя
Не съезжает ли это в «ничего нельзя знать, каждый прав по-своему»?
Нет, и различие проходит по второму пункту. Релятивизм отменяет все опоры разом. Здесь отменена одна — внешнее удостоверение, — а две другие стоят. Физический запрет не сдвигается ни от чьего мнения. Воспроизводимость проверяется руками. Разрушена не истина, разрушено делегирование доверия, и это разные потери.
Второе возражение серьёзнее. Сфера личной воспроизводимости крошечная, а решать приходится о большом мире: о войне за тысячу километров, о лекарстве, о том, что произошло в чужой стране. Туда рука не дотягивается, и плотность вероятности приходится считать по свидетельствам — то есть по той самой цепочке, которая только что объявлена дырявой.
Смягчает это одно: свидетельство с известной структурой смещения полезнее свидетельства без неё. Не «правда или ложь», а «кто говорит, что он теряет и приобретает, что он мог видеть со своего места». Так работает разбор по всей серии. Но это именно смягчение, а не решение.
Что осталось открытым
ОТКРЫТО Как считать плотность. Шкала названа, процедуры нет. «Вероятно с плотностью» без правила присвоения числа остаётся жестом, а не инструментом. Байесовский аппарат формально подходит, но требует априорных оценок, которые в спорных случаях берутся из воздуха и определяют ответ сильнее, чем данные.
ОТКРЫТО Масштаб сферы. Где именно проходит её граница и что делать с решениями, которые обязаны приниматься за границей, я не знаю. Ответ «не требуй доказательств» работает для человека, который может позволить себе не действовать. Для того, кто действовать обязан, он не работает.
ОТКРЫТО Возврат опоры. Возможно ли, что порог восстановится с другой стороны — не через удостоверение подлинности, а через издержки подделки в конкретной области, где ставки высоки настолько, что проверка окупается. Прецеденты такого рода есть, но общий вывод из них не следует, и я его не делаю.
Остаток
В «НЛО-медиа» последним неснимаемым рубежом названа способность распознать генеративное. Эта глава снимает и его: распознавание тоже опирается на признаки, а признаки исчезают по мере роста неотличимости. Рубеж был последним в своём ряду, но ряд оказался конечным.
Что остаётся после — не рубеж, а другой способ обращаться с миром. Опора не снаружи, а на воспроизводимом и на запрещённом. Всё прочее переходит в разряд ставок с названной плотностью, и главное здесь — называть её вслух, включая случаи, когда она низкая.