진실은 발견되지 않는다 이미지: AI 생성

우리 우주의 열린 세계에는 발견할 진실이 존재하지 않는다. 그러나 우리는 진실을 선언할 수 있고, 선언된 진실은 그것이 연 세계 안에서만 참이다. 이것은 냉소가 아니다. 물리학이고, 그다음엔 법이다.

빛은 언제나 늦게 도착한다

어떤 관측도 빛의 속도를 넘지 않는다.

밤하늘의 별을 본다. 그 빛은 수천 년 전에 떠났다. 지금 보는 것은 별이 아니라, 오래전 별이 있었다는 주장이다. 그 별은 이미 사라졌을지도 모른다 (Speed of light, Wikipedia).

이것을 먼 별의 이야기로만 여기지 말자. 손에 든 컵을 본다. 컵에서 튄 빛이 눈에 닿기까지 시간이 걸린다. 아주 짧지만 0은 아니다. 우리가 보는 컵은 언제나 방금 전의 컵이다. 지금 이 순간의 컵에는 결코 닿지 못한다. 사건은 일어나는 즉시 과거로 사라진다. 빛보다 빠르게. 우리에게 남는 것은 사건이 아니라, 사건이 보낸 전령뿐이다. 그리고 전령은 언제나 사건이 이미 죽은 뒤에 도착한다.

0홉짜리 관측은 없다

빛이 망막에 닿는 순간은 순수한 전달이 아니라 변환이다. 광자가 단백질의 형태를 바꾸고, 그 변화가 연쇄 반응을 일으키고, 신호가 신경을 타고 오르고, 뇌가 그것을 “빨강"이라 부른다 (Visual phototransduction, Wikipedia). 이 사슬의 매 단계가 재해석이다. 우리의 시신경은 세계로 열린 창문이 아니라, 세계에 대한 추론 모델이다 (Unconscious inference, Wikipedia).

그러므로 가장 사건에 가까운 관측 — 방금 광자가 튄 망막 — 조차 이미 한 홉 이상 떨어진 추론이다. 0홉짜리 관측은 존재한 적이 없다. 우리는 세계를 직접 만진 적이 단 한 번도 없다. 카메라가 컵을 “본다"고 할 때 그것이 센서의 추론임을 우리는 안다. 인간의 눈도 다르지 않다. 특권적인 직접 접촉 채널이 아니라, 그저 하나의 센서다.

열린 세계엔 진실이 없다 — 오직 주장뿐

그렇다면 열린 세계에서 우리에게 무엇이 남는가. 증거와 주장. 그리고 조금만 들여다보면, 증거는 주장의 다른 이름일 뿐이다.

“카메라가 이 컵을 봤다"는 증거다. 하지만 그것은 “센서가, 이 시각에, 이 신뢰도로, 이런 컵이 있다고 주장했다"는 것 이상도 이하도 아니다. 증거를 파고들면 그 안에 또 하나의 주장이 있고, 그 주장의 근거를 파고들면 또 하나의 주장이 있다. 바닥은 없다. “이건 그냥 참이다"로 멈추는 지점이 어디에도 없다.

그래서 내가 설계하는 의미론적 언어 GEUL에는 “사실(Fact)” 타입이 없다. 일부러 없앤 것이 아니라, 열린 세계를 담는 자리에는 넣을 수 없었다. 넣는 순간 거짓말이 되니까. 가장 기초적으로 보이는 주장 — “이 둘은 같은 대상이다” — 조차 확정과 후보로 나뉘고, 그 둘을 가르는 것은 별도의 “사실 도장"이 아니라 그저 신뢰도(confidence)가 붙었는가 아닌가다. 확실한 사실과 불확실한 추측은 종류가 다른 것이 아니다. 같은 구조에 신뢰도라는 꼬리표가 붙었느냐 아니냐의 차이일 뿐이다. 이것은 철학적 선언이 아니라 비트 레이아웃이다. 철학이 무너지면 스키마가 무너지도록 짜여 있다.

그런데 진실은 존재한다 — 닫힌 세계에서

열린 세계에는 발견할 진실이 없다. 그러나 진실이 아예 없는 것은 아니다.

소설을 보라. “홍길동은 서자였다"는 그 세계 안에서 진실이다. 작가가 그렇게 썼기 때문이다 (Fiction — Truth in Fiction, SEP). 검증할 외부 세계가 없고, 작가가 곧 그 세계의 유일한 출처이자 최종 심급이다. 여기서는 관측이 필요 없다. 작가가 선언하면 그것이 곧 존재한다. 사건이 선언보다 먼저 있는 것이 아니라, 선언이 곧 사건이다.

수학도 같은 구조다. “2 더하기 2는 4"는 공리가 닫아놓은 세계 안에서 참이다. 공리가 작가이고, 정리는 그 세계의 등장인물이다. 물리 세계를 관측해서 얻은 것이 아니라 정의로부터 연역된 것이라, 빛의 속도가 이곳에는 적용되지 않는다 (Formalism in the Philosophy of Mathematics, SEP). 그러므로 진실이 실패하는 것은 진실 자체가 틀려서가 아니라, 닫히지 않은 세계에 진실을 쓰기 때문이다. 물리적 실재에는 세계를 닫을 권위가 없다. 그러나 소설과 공리계에는 그 권위가 있다.

진실은 발견되지 않고 선언된다

두 종류의 문장이 있다. 하나는 세계를 묘사한다. “컵이 여기 있다.” 이미 있는 무언가를 가리키려는 시도다. 그래서 빛의 속도에 걸리고, 영원히 주장에 머문다. 다른 하나는 세계를 창조한다. “이로써 두 사람을 부부로 선언합니다.” 이 문장은 결혼을 묘사하지 않는다. 결혼을 만들어낸다. 발화 이전에 가리킬 대상이 없다. 발화가 대상을 낳는다 (Speech Acts, SEP).

첫 번째 문장은 참/거짓을 물을 수 있다. 두 번째 문장에는 참/거짓을 물을 수 없다 — 발화가 곧 사건이니까. 닫힌 세계가 진실을 가질 수 있는 진짜 이유가 이것이다. 세계가 닫혀서가 아니라, 그 세계들이 선언으로 지어지는 세계이기 때문이다. 그래서 진실은 발견되지 않는다. 진실은 제작된다. 그리고 인간 문명의 거의 전부 — 법, 화폐, 계약, 약속, 국가, 소설 — 는 이 제작된 진실 위에 서 있다.

재판은 투영이고, 판결은 연산이다

법이 이 원리의 가장 정교한 실현이다. 판사는 진실을 발견하지 않는다. 판사는 수학자다. 그러나 그는 두 가지 일을 연달아 한다.

재판이란 실재 세계를 법적 세계에 투영하는 과정이고, 판결이란 법적 세계에 투영된 사실을 연산한 결과다. 첫 번째 동작은 투영이다. 무한하고 열린 실재를 법적 세계라는 유한하고 닫힌 좌표계로 내린다. 증거 채택이 바로 이 투영이고, 모든 투영이 그렇듯 손실이 있다 — 실재의 대부분이 법정에 들어오지 못하고, 들어온 것만 사실이 된다. 열린 세계의 주장이 법정에 채택되는 순간 그것은 실재에 대한 주장이기를 멈추고 법적 세계 안에서 사실로 기능하기 시작한다. 그러나 이것은 열린 세계의 절대적 진실로 승격한 것이 아니라, 오직 이 닫힌 세계 안에서만 사실로 기능하는 주장이다.

두 번째 동작은 연산이다. 투영이 끝나 세계가 닫히면, 법조문을 공리 삼아 판결이 결정론적으로 계산된다. 첫 번째는 작가의 동작(세계를 선언한다)이고, 두 번째는 수학자의 동작(정리를 연역한다)이다. 판사가 독특한 존재인 것은 이 둘을 한 사람이 연달아 하기 때문이다.

이 관점은 허공에서 나온 사변이 아니다. 증거법은 오래전부터 형식적 진실(formal legal truth)과 실체적 진실(substantive truth)을 구별해왔다. 재판이 겨냥하는 이상은 실체적 진실이지만, 증거 규칙과 입증책임과 시간의 한계가 그 도달을 가로막아 “실제로 일어난 일"과 “법적으로 확정된 것"이 갈라진다 (Summers, Formal Legal Truth and Substantive Truth in Judicial Fact-Finding, Cornell Law). 철학자 존 설(John Searle)은 이 변환의 문법을 밝혔다 — 제도적 사실은 언제나 “X가 맥락 C에서 Y로 간주된다(X counts as Y in context C)“는 형식을 가지며, 그 간주를 발동시키는 것은 관측이 아니라 선언이다 (Searle, Constitutive Rules, Argumenta; Social Ontology, SEP). 사회학자 니클라스 루만(Niklas Luhmann)은 법체계 전체를 이 원리로 설명했다 — 법은 인지적으로 열려 있고 규범적으로 닫혀 있으며, 오직 합법/불법이라는 이항 코드로만 처리한다 (Critical Legal Thinking, Niklas Luhmann: What is Autopoiesis?). 내가 투영과 연산으로 나눈 두 동작이, 루만에게는 인지적 개방과 규범적 폐쇄였다.

오심이 선언과 발견을 가른다

닫힌 세계 안에서 판결은 진실이다. 그러나 그 세계가 실재와 일치하는지는 여전히 주장이다.

판사가 “유죄"라고 하면 법적 세계 안에서 그는 유죄다. 수학적으로. 진범이 아닐 수도 있다는 것과 무관하게. 오심이라는 개념이 성립하는 이유가 바로 이것이다 — 법적 진실(닫힌 세계의 판결)과 물리적 주장(실제로 무슨 일이 있었나)이 서로 다른 층위라서, 둘이 어긋날 수 있다 (Miscarriage of justice, Wikipedia). 만약 판결이 물리적 진실이라면 오심은 논리적으로 불가능할 것이다. 그러나 우리는 오심을 말할 수 있다. 그 말이 성립한다는 사실 자체가, 선언된 진실이 발견된 진실이 아님을 증명한다.

지금 LLM은 사건 기록 없는 판사다

LLM은 닫힌 수학으로 만들어졌다. 행렬을 곱하고, 확률을 계산하고, 정해진 알고리즘으로 다음 토큰을 고른다. 그 내부 연산은 수학적으로 닫혀 있다. 그러나 LLM이 다루는 입력은 열린 세계에서 온다. 질문은 맥락이 불완전하고, 학습된 지식은 출처와 시점이 뒤섞여 있으며, 검색 결과와 사용자의 주장은 서로 충돌한다. 모델은 그중 무엇을 사실로 채택했는지 남기지 않은 채 (Measuring Attribution in NLG, arXiv:2112.12870), 열린 세계를 파라미터 안에서 잠시 닫고 답을 계산한다.

현재의 LLM은 사건 기록도, 증거 채택 절차도 없는 판사와 같다. 어떤 주장을 채택하고 어떤 주장을 기각했는지, 어느 시점의 세계를 다루는지, 무엇이 달라지면 사건을 다시 열어야 하는지 — 이것들이 남지 않는다. 그런데 답은 판결문처럼 단정적으로 나온다 (Survey of Hallucination in Natural Language Generation, arXiv:2202.03629). 모델의 수학이 틀리지 않아도 오심은 발생한다. 열린 세계를 닫는 투영이 암묵적이고, 재현되지 않으며, 누구도 그 경계에 책임지지 않기 때문이다. 더 큰 모델과 더 많은 파라미터는 이 문제를 완화할 수는 있어도 없애지 못한다 (Hallucination is Inevitable, arXiv:2401.11817; Why Language Models Hallucinate, arXiv:2509.04664). 열린 세계 전체를 파라미터 안에 완전히 닫는 것은 불가능하다.

계산 가능한 세계를 먼저 선언하라

LLM에 필요한 것은 더 완벽한 기억만이 아니라, 법치주의 같은 명시적인 폐쇄 절차다 (The Rule of Law, SEP).

먼저 열린 세계에서 들어온 모든 것을 주장(Claim)으로 받는다 — 누가, 언제, 무엇을 근거로, 어느 범위에서, 얼마나 신뢰하며 주장했는가. 그다음 특정 질문을 위해 세계를 닫는다 — 어떤 주장을 채택하고 기각하며 보류할지 정해, 계산 가능한 인정된 사실로 투영한다. 이 인정된 사실은 절대적 진실로 승격되지 않는다. 특정한 닫힌 세계 안에서만 사실로 기능하는 주장이다. 그 위에서 판결을 연산하고, 새 증거가 오면 사건을 다시 열 수 있어야 한다.

이것이 GEUL이 할 일이다. GEUL은 열린 세계의 주장을 잃지 않고 보존한다. 그 위에서 툴민 논증 엔진이 채택된 근거와 반박의 닫힌 그래프를 입력으로 받아 판결을 결정론적으로 연산한다 (Argumentation framework, Wikipedia). 엔진은 진실을 판정하지 않는다. 판사가 수학자인 것과 똑같이, 엔진도 수학자다. 판단자가 아니라 실행자다. 목표는 LLM을 무오류로 만드는 것이 아니라, 오심을 구조화하고, 투영의 오류와 연산의 오류를 분리하며, 누가 무엇을 인정했는지 밝히고, 새로운 증거 앞에서 항소할 수 있게 만드는 것이다.

선언에는 책임이 따라야 한다

그러나 선언이 값싸지면 세계가 오염된다. 누구나 무엇이든 선언할 수 있다면 진실은 인플레이션을 겪는다 — 지금 인터넷이, AI가 쏟아내는 문장들이 그렇다. 그래서 필요한 것은 진실이 아니라 책임이다.

선언에는 권위가 필요하고, 권위에는 책임이 따라야 한다 (Moral Responsibility, SEP). 판사가 아닌 사람이 “유죄"라고 외쳐도 아무 세계도 닫히지 않는 것처럼, 선언은 참/거짓의 대상이 아니라 유효성의 대상이다. 그리고 책임은 결국 돈으로 진다 — 측정 가능하고, 이전 가능하고, 과실만큼 나눌 수 있는 유일한 수단이기 때문이다 (Legal liability, Wikipedia). 그러려면 먼저 선언이 식별되어야 한다. 누가, 어떤 권한으로, 무엇으로부터 그것을 선언했는가. 이것이 GEUL이 모든 주장에 출처와 시점과 신뢰도를 강제로 동봉시키는 이유다. 책임을 물으려면 먼저 선언을 화폐화 가능한 단위로 잘라야 한다.

진실은 발견되지 않는다. 그러나 진실은 선언할 수 있다. 그리고 그거면 충분하다. 빛은 언제나 늦게 도착한다. 우주에서 가장 빠름에도 불구하고.

관련 글

출처

물리 — 관측과 빛

  • Speed of light (Wikipedia) — 빛의 속도는 정보·물질의 유한한 상한이며 모든 관측자에게 동일하다. 지구에서 보는 별빛은 먼 과거의 것이다
  • Lookback time / Cosmic time (Wikipedia) — 빛의 이동 시간 때문에 먼 대상일수록 더 과거의 모습으로 관측된다
  • Meter (NIST) — 1983년 재정의로 빛의 속도가 초당 299,792,458m로 고정됨
  • Visual phototransduction (Wikipedia) — 망막은 빛을 수동 전달하지 않고 생화학 연쇄로 변환한다
  • Unconscious inference (Wikipedia) — 헬름홀츠의 무의식적 추론: 지각은 직접 접촉이 아니라 감각 입력의 원인을 추정하는 통계적 추론이다

진실 · 선언 · 닫힌 세계

  • Speech Acts (Stanford Encyclopedia of Philosophy) — 오스틴의 수행문/기술문 구분: 어떤 발화는 그렇게 말함으로써 사실을 만든다
  • Performative utterance (Wikipedia) — 수행문은 실재를 묘사하는 것이 아니라 사회적 실재를 바꾼다. 참/거짓이 아니라 성공/실패의 대상
  • Fiction — Truth in Fiction (Stanford Encyclopedia of Philosophy) — 소설 속 진실은 작가가 규정한다는 작가 중심 이론
  • Formalism in the Philosophy of Mathematics (Stanford Encyclopedia of Philosophy) — 수학적 참은 체계의 규칙 안에서 증명 가능함이지 물리 실재와의 대응이 아니다
  • Axiomatic system (Wikipedia) — 공리로부터 정리를 연역하는 구조

법 — 투영 · 연산 · 책임

  • Formal Legal Truth and Substantive Truth in Judicial Fact-Finding (Robert S. Summers, Cornell Law) — 재판이 겨냥하는 실체적 진실과, 증거법·입증책임·시간 제약이 만드는 형식적 법적 진실의 어긋남
  • Constitutive Rules (John R. Searle, Argumenta) — 제도적 사실의 형식 “X counts as Y in context C"와, 선언이 실재를 창조하는 힘
  • Social Ontology (Stanford Encyclopedia of Philosophy) — 제도적 사실·지위 기능이 집단적 승인과 선언 언어행위로 부과된다
  • How the Facts Enter Into the Law (Springer) — 법은 규범적 질서이므로 ‘실재의 사실’을 ‘법적 사실 상태’로 변환해야만 처리할 수 있다는 관점
  • Niklas Luhmann (Wikipedia) — 사회 체계는 작동상 닫혀 있으면서 환경에 정보적으로 열려 있다(규범적 폐쇄, 인지적 개방)
  • Miscarriage of justice (Wikipedia) — 오판은 법적 판결과 사실적 무죄가 갈라짐을 보여준다
  • The Rule of Law (Stanford Encyclopedia of Philosophy) — 사전에 선언된 일반 규칙을 개인 재량이 아니라 비인격적으로 적용해 예측 가능성을 만든다
  • Moral Responsibility (Stanford Encyclopedia of Philosophy) — 책임의 답변가능성·제재 가능성 갈래
  • Legal liability (Wikipedia) — 법적 책임은 계약·불법행위·조세·벌금에 걸친, 강제·지불 가능한 의무다

LLM — 인식론과 환각

변경이력

  • 2026-07-23: 초판