Истина не открывается Изображение: сгенерировано ИИ

В открытом мире нашей Вселенной не существует истины, которую можно было бы открыть. Но мы можем истину провозгласить, и провозглашённая истина истинна только внутри того мира, который она открыла. Это не цинизм. Это физика, а затем — право.

Свет всегда приходит с опозданием

Никакое наблюдение не превосходит скорость света.

Мы смотрим на звезду в ночном небе. Её свет ушёл в путь тысячи лет назад. То, что мы видим сейчас, — не звезда, а утверждение, что когда-то давно звезда существовала. Возможно, её уже нет (Speed of light, Wikipedia).

Не будем считать это лишь историей о далёких звёздах. Мы смотрим на чашку в руке. Свету, отражённому от чашки, нужно время, чтобы достичь глаза. Очень короткое, но не нулевое. Чашка, которую мы видим, — всегда чашка мгновение назад. До чашки в этот самый миг мы не дотягиваемся никогда. Событие, едва произойдя, уходит в прошлое. Быстрее света. Нам остаётся не событие, а лишь гонец, которого оно послало. И гонец всегда прибывает уже после того, как событие умерло.

Наблюдения в 0 прыжков не бывает

Мгновение, когда свет достигает сетчатки, — не чистая передача, а преобразование. Фотон меняет форму белка, это изменение запускает цепную реакцию, сигнал поднимается по нерву, а мозг называет это «красным» (Visual phototransduction, Wikipedia). Каждый шаг этой цепи — переистолкование. Наш зрительный нерв — не окно, открытое в мир, а модель вывода о мире (Unconscious inference, Wikipedia).

А потому даже самое близкое к событию наблюдение — сетчатка, на которую только что упал фотон, — уже вывод, отстоящий на прыжок или больше. Наблюдения в 0 прыжков не существовало никогда. Мы ни разу в жизни не коснулись мира напрямую. Когда мы говорим, что камера «видит» чашку, мы знаем, что это вывод сенсора. Человеческий глаз ничем не отличается. Это не привилегированный канал прямого контакта, а просто один из сенсоров.

В открытом мире нет истины — только утверждения

Что же тогда остаётся нам в открытом мире? Свидетельства и утверждения. И стоит присмотреться, как свидетельство оказывается лишь другим именем утверждения.

«Камера видела эту чашку» — это свидетельство. Но оно не более и не менее чем «сенсор в такой-то момент с такой-то достоверностью утверждал, что есть такая чашка». Копните свидетельство — внутри окажется ещё одно утверждение, копните основание того утверждения — ещё одно. Дна нет. Нигде нет точки, где можно было бы остановиться на «это просто истина».

Поэтому в семантическом языке GEUL, который я проектирую, нет типа «факт» (Fact). Я не убрал его намеренно — его просто нельзя было поместить туда, где помещается открытый мир. Ведь в тот же миг он стал бы ложью. Даже самое, казалось бы, элементарное утверждение — «эти два суть один и тот же объект» — делится на подтверждённое и на кандидата, и различает их не отдельная «печать факта», а лишь то, приписана ли достоверность (confidence). Достоверный факт и недостоверная догадка — не разные виды. Разница лишь в том, приклеен ли к одной и той же структуре ярлык достоверности или нет. Это не философская декларация, а раскладка битов. Устроено так, что если рухнет философия — рухнет схема.

И всё же истина существует — в замкнутом мире

В открытом мире нет истины, которую можно открыть. Но это не значит, что истины нет вовсе.

Взгляните на роман. «Хон Гиль Дон (Hong Gil-dong) был незаконнорождённым сыном» — истина внутри того мира. Потому что автор так написал (Fiction — Truth in Fiction, SEP). Внешнего мира для проверки нет, и автор — единственный источник и высшая инстанция этого мира. Здесь наблюдение не нужно. Стоит автору провозгласить — и это сразу существует. Событие не предшествует провозглашению; провозглашение и есть событие.

Математика устроена так же. «Два плюс два — четыре» истинно внутри мира, замкнутого аксиомами. Аксиомы — автор, а теоремы — персонажи этого мира. Это получено не наблюдением физического мира, а выведено из определений, и потому скорость света здесь не применяется (Formalism in the Philosophy of Mathematics, SEP). А значит, истина терпит крах не оттого, что сама истина ошибочна, а оттого, что истину пишут в незамкнутом мире. У физической реальности нет власти замкнуть мир. А у романа и аксиоматической системы такая власть есть.

Истину не открывают, а провозглашают

Есть два рода предложений. Одно описывает мир. «Чашка здесь». Это попытка указать на нечто уже существующее. Потому оно упирается в скорость света и навечно остаётся утверждением. Другое творит мир. «Сим объявляю вас мужем и женой». Это предложение не описывает брак. Оно создаёт брак. До высказывания нет объекта, на который можно указать. Высказывание рождает объект (Speech Acts, SEP).

О первом предложении можно спросить, истинно оно или ложно. О втором предложении спросить об истинности или ложности нельзя — ведь высказывание и есть событие. Вот подлинная причина, по которой замкнутый мир может обладать истиной. Не оттого, что мир замкнут, а оттого, что эти миры — миры, возводимые провозглашением. Потому истину не открывают. Истину изготавливают. И почти вся человеческая цивилизация — право, деньги, договоры, обещания, государство, роман — стоит на этой изготовленной истине.

Суд — это проекция, а приговор — вычисление

Право — самое искусное воплощение этого принципа. Судья не открывает истину. Судья — математик. Но он делает два дела подряд.

Суд — это процесс проекции реального мира в правовой мир, а приговор — результат вычисления над фактами, спроецированными в правовой мир. Первое действие — проекция. Бесконечную и открытую реальность опускают в конечную и замкнутую систему координат правового мира. Приобщение доказательств и есть эта проекция, и, как всякая проекция, она несёт потери — большая часть реальности не попадает в суд, а фактом становится лишь то, что попало. В тот миг, когда утверждение открытого мира приобщается к делу, оно перестаёт быть утверждением о реальности и начинает функционировать как факт внутри правового мира. Но это не возведение в абсолютную истину открытого мира, а утверждение, которое функционирует как факт только внутри этого замкнутого мира.

Второе действие — вычисление. Когда проекция завершена и мир замкнут, приговор детерминированно вычисляется, беря статьи закона за аксиомы. Первое — действие автора (провозгласить мир), второе — действие математика (вывести теорему). Судья потому и своеобразное существо, что оба дела делает один человек подряд.

Этот взгляд не умозрение из воздуха. Доказательственное право издавна различало формальную юридическую истину (formal legal truth) и материальную истину (substantive truth). Идеал, к которому целит суд, — материальная истина, но правила доказывания, бремя доказывания и ограниченность времени преграждают путь к ней, и «то, что произошло на самом деле» расходится с «тем, что установлено юридически» (Summers, Formal Legal Truth and Substantive Truth in Judicial Fact-Finding, Cornell Law). Философ John Searle раскрыл грамматику этого преобразования — институциональный факт всегда имеет форму «X считается Y в контексте C (X counts as Y in context C)», а приводит эту засчитанность в действие не наблюдение, а провозглашение (Searle, Constitutive Rules, Argumenta; Social Ontology, SEP). Социолог Niklas Luhmann объяснил этим принципом всю правовую систему — право когнитивно открыто и нормативно замкнуто и обрабатывает всё лишь бинарным кодом «законно/незаконно» (Critical Legal Thinking, Niklas Luhmann: What is Autopoiesis?). Те два действия, которые я разделил на проекцию и вычисление, у Luhmann были когнитивной открытостью и нормативной замкнутостью.

Судебная ошибка отделяет провозглашение от открытия

Внутри замкнутого мира приговор — истина. Но совпадает ли этот мир с реальностью — по-прежнему утверждение.

Когда судья говорит «виновен», внутри правового мира он виновен. Математически. Независимо от того, что он может и не быть настоящим преступником. Именно поэтому имеет смысл само понятие судебной ошибки — юридическая истина (приговор в замкнутом мире) и физическое утверждение (что произошло на самом деле) лежат на разных уровнях, и они могут разойтись (Miscarriage of justice, Wikipedia). Если бы приговор был физической истиной, судебная ошибка была бы логически невозможна. Но мы можем говорить о судебной ошибке. Сам факт, что эти слова имеют смысл, доказывает, что провозглашённая истина — не открытая истина.

Сегодня LLM — судья без протокола дела

LLM создан замкнутой математикой. Он умножает матрицы, вычисляет вероятности, по заданному алгоритму выбирает следующий токен. Его внутренние вычисления математически замкнуты. Но вход, с которым LLM имеет дело, приходит из открытого мира. У вопроса неполный контекст, в выученном знании перемешаны источники и моменты времени, а результаты поиска и утверждения пользователя противоречат друг другу. Не оставляя следа о том, что из этого он принял за факт (Measuring Attribution in NLG, arXiv:2112.12870), модель на миг замыкает открытый мир внутри параметров и вычисляет ответ.

Нынешний LLM подобен судье без протокола дела и без процедуры приобщения доказательств. Какое утверждение принято, а какое отклонено, с каким моментом мира он работает, что должно измениться, чтобы дело пришлось открыть заново, — всё это не остаётся. А ответ выходит категоричным, как приговор (Survey of Hallucination in Natural Language Generation, arXiv:2202.03629). Даже когда математика модели не ошибается, судебная ошибка случается. Потому что проекция, замыкающая открытый мир, неявна, невоспроизводима, и никто не несёт ответственности за её границу. Более крупная модель и больше параметров могут смягчить эту проблему, но не устранить её (Hallucination is Inevitable, arXiv:2401.11817; Why Language Models Hallucinate, arXiv:2509.04664). Полностью замкнуть весь открытый мир внутри параметров невозможно.

Сначала провозгласите вычислимый мир

LLM нужна не только более совершенная память, но и явная процедура замыкания, подобная верховенству права (The Rule of Law, SEP).

Сначала всё, что пришло из открытого мира, принимается как утверждение (Claim) — кто, когда, на каком основании, в каких пределах и с какой достоверностью это утверждал. Затем ради конкретного вопроса мир замыкают — решают, какое утверждение принять, какое отклонить и какое отложить, и проецируют в вычислимый установленный факт. Этот установленный факт не возводится в абсолютную истину. Это утверждение, которое функционирует как факт только внутри определённого замкнутого мира. Поверх него вычисляют приговор, а при появлении новых доказательств дело должно быть можно открыть заново.

Вот что предстоит делать GEUL. GEUL сохраняет утверждения открытого мира, не теряя их. А поверх них движок аргументации Тулмина принимает на вход замкнутый граф принятых оснований и опровержений и детерминированно вычисляет приговор (Argumentation framework, Wikipedia). Движок не выносит суждения об истине. Ровно как судья — математик, движок тоже математик. Не судья, а исполнитель. Цель — не сделать LLM непогрешимым, а структурировать судебную ошибку, отделить ошибку проекции от ошибки вычисления, выяснить, кто что признал, и дать возможность обжаловать перед лицом новых доказательств.

Провозглашение должно нести ответственность

Но когда провозглашение дешевеет, мир загрязняется. Если каждый может провозгласить что угодно, истина переживает инфляцию — как сейчас интернет, как предложения, которыми сыплет ИИ. Поэтому нужна не истина, а ответственность.

Провозглашению нужна власть, а власть должна нести ответственность (Moral Responsibility, SEP). Как оттого, что «виновен» крикнет не судья, не замыкается никакой мир, так и провозглашение — не предмет истинности или ложности, а предмет действительности. И ответственность в конце концов несут деньгами — потому что это единственное средство, измеримое, передаваемое и делимое по мере вины (Legal liability, Wikipedia). А для этого провозглашение сначала должно быть идентифицировано. Кто, какими полномочиями, из чего это провозгласил. Вот почему GEUL принудительно прилагает к каждому утверждению источник, момент времени и достоверность. Чтобы призвать к ответственности, надо сначала нарезать провозглашение на монетизируемые единицы.

Истину не открывают. Но истину можно провозгласить. И этого достаточно. Свет всегда приходит с опозданием. Несмотря на то, что это самое быстрое во Вселенной.

Связанные статьи

Источники

Физика — наблюдение и свет

  • Speed of light (Wikipedia) — скорость света есть конечный верхний предел для информации и материи и одинакова для всех наблюдателей. Свет звезды, видимый на Земле, — из далёкого прошлого
  • Lookback time / Cosmic time (Wikipedia) — из-за времени распространения света чем дальше объект, тем в более прошлом виде он наблюдается
  • Meter (NIST) — переопределением 1983 года скорость света зафиксирована как 299 792 458 м в секунду
  • Visual phototransduction (Wikipedia) — сетчатка не передаёт свет пассивно, а преобразует его биохимической цепью
  • Unconscious inference (Wikipedia) — бессознательный вывод Helmholtz: восприятие — не прямой контакт, а статистический вывод о причине сенсорного входа

Истина · провозглашение · замкнутый мир

  • Speech Acts (Stanford Encyclopedia of Philosophy) — различение перформатива и констатива у Остина: некоторые высказывания создают факт самим фактом произнесения
  • Performative utterance (Wikipedia) — перформатив не описывает реальность, а меняет социальную реальность. Предмет не истинности/ложности, а успеха/неудачи
  • Fiction — Truth in Fiction (Stanford Encyclopedia of Philosophy) — авторо-центричная теория: истину в романе задаёт автор
  • Formalism in the Philosophy of Mathematics (Stanford Encyclopedia of Philosophy) — математическая истина есть доказуемость внутри правил системы, а не соответствие физической реальности
  • Axiomatic system (Wikipedia) — структура вывода теорем из аксиом

Право — проекция · вычисление · ответственность

  • Formal Legal Truth and Substantive Truth in Judicial Fact-Finding (Robert S. Summers, Cornell Law) — расхождение между материальной истиной, к которой целит суд, и формальной юридической истиной, создаваемой доказательственным правом, бременем доказывания и временны́ми ограничениями
  • Constitutive Rules (John R. Searle, Argumenta) — форма институционального факта «X counts as Y in context C» и сила провозглашения, творящего реальность
  • Social Ontology (Stanford Encyclopedia of Philosophy) — институциональные факты и статусные функции налагаются коллективным признанием и декларативными речевыми актами
  • How the Facts Enter Into the Law (Springer) — взгляд, по которому право как нормативный порядок может обрабатывать «факты реальности» лишь преобразовав их в «правовое состояние фактов»
  • Niklas Luhmann (Wikipedia) — социальные системы операционально замкнуты и при этом информационно открыты среде (нормативная замкнутость, когнитивная открытость)
  • Miscarriage of justice (Wikipedia) — судебная ошибка показывает расхождение правового приговора и фактической невиновности
  • The Rule of Law (Stanford Encyclopedia of Philosophy) — заранее провозглашённые общие правила применяются безлично, а не по личному усмотрению, создавая предсказуемость
  • Moral Responsibility (Stanford Encyclopedia of Philosophy) — ветви ответственности: подотчётность и наказуемость
  • Legal liability (Wikipedia) — юридическая ответственность — это принудительная, исполнимая платежом обязанность, охватывающая договор, деликт, налоги и штрафы

LLM — эпистемология и галлюцинации

  • Measuring Attribution in Natural Language Generation Models (arXiv:2112.12870) — фреймворк AIS для оценки того, атрибутируем ли и проверяем ли вывод по идентифицированному источнику

  • Survey of Hallucination in Natural Language Generation (arXiv:2202.03629) — определяет галлюцинацию как безосновательную (unfaithful) генерацию и обозревает методы смягчения

  • Hallucination is Inevitable: An Innate Limitation of Large Language Models (arXiv:2401.11817) — с точки зрения теории обучения LLM неизбежно галлюцинирует и это не устраняется масштабом

  • Why Language Models Hallucinate (arXiv:2509.04664, OpenAI) — галлюцинация происходит из статистического давления предобучения и сохраняется даже в новейших системах

  • Argumentation framework (Wikipedia) — фреймворк аргументации Dung: по аргументам и отношениям атаки детерминированной семантикой вычисляется, какой аргумент оправдан

  • Изображение-герой: сгенерировано ИИ

История изменений

  • 2026-07-23: Первая редакция