Истина исчезает быстрее скорости света
Это самое мгновение уже в прошлом
Прямо сейчас, пока вы читаете это предложение, момент, когда это предложение было написано, уже в прошлом.
Свет, достигший ваших глаз, прошёл от экрана, затратив несколько наносекунд, чтобы достичь сетчатки. Сигнал от сетчатки проходит по зрительному нерву к мозгу за десятки миллисекунд. Мозгу требуются сотни миллисекунд, чтобы интерпретировать этот сигнал как “предложение”.
К моменту, когда вы чувствуете, что “прочитали” это предложение, момент, когда это предложение существовало на экране, уже на сотни миллионов наносекунд в прошлом.
Это не метафора. Это физика.
Истина недоступна
В физическом мире “событие” – это точка в пространстве-времени.
В момент возникновения событие испускает информацию. Фотоны, звуковые волны, гравитационные волны, химические следы. Эта информация распространяется со скоростью света или медленнее.
Но само событие? Полное состояние в точный момент и в точном месте, где оно произошло?
Оно исчезает в прошлое быстрее скорости света.
Через 0,001 секунды после события оно уже в прошлом. Ни один наблюдатель не может получить доступ к событию “самому по себе”. До нас доходят всегда лишь следы, которые событие оставило.
Отражённые фотоны. Записанный текст. Пересказанные слухи. Измеренные данные.
Всё это – фрагменты. Фрагменты истины. Не сама истина.
Мозг не хранит факты
Нейронаука раскрыла неудобную истину.
Человеческая память – не запись. Это реконструкция.
Когда вы вспоминаете “Я вчера видел красную машину”, в вашем мозгу нет хранимой фотографии “красной машины”.
Вот что происходит на самом деле:
- Фотоны достигают сетчатки.
- Колбочки сетчатки преобразуют определённые длины волн в сигналы.
- Зрительная кора собирает эти сигналы в паттерны.
- Гиппокамп кодирует эти паттерны вместе с контекстом.
- Во время сна эти коды реорганизуются и сжимаются.
Воспоминание “Я видел красную машину” – это продукт, пересобранный в момент извлечения из фрагментов, разбросанных по нескольким областям мозга.
Поэтому воспоминания меняются. Каждый раз, когда вы вспоминаете то же событие, оно реконструируется немного иначе. Новый опыт контаминирует старые воспоминания. Можно даже помнить то, чего никогда не было.
То, что хранит мозг, – не “факты”. То, что хранит мозг, – “вот так ощущалось, вот так выглядело, вот так я это интерпретировал” — утверждения.
Всё знание – утверждения
Распространим этот принцип от индивидуальной памяти на знания цивилизации – и та же структура повторится.
История: “Ли Сунсин погиб в битве при Норяне в 1598 году.”
Это факт?
Что у нас есть: Есть записи в Анналах династии Чосон. Есть записи в Полном собрании сочинений адмирала Ли. Есть японские записи. Есть века учёных интерпретаций.
Всё это – утверждения. Утверждения, изложенные разными источниками, в разное время, с разных точек зрения.
“Ли Сунсин погиб в 1598 году” – не факт, а консенсус этих утверждений. Консенсус с очень высокой достоверностью, но всё же консенсус.
Наука: “Скорость света – 299 792 458 м/с.”
Это факт?
Что у нас есть: Бесчисленные эксперименты измерили это значение. Современная физическая теория предсказывает это значение. Международное бюро мер и весов приняло это значение как определение.
Всё это – утверждения. Утверждения, прошедшие через пределы измерительных приборов, допущения теорий и процедуры консенсуса. Вероятность того, что завтра более точное измерение пересмотрит это значение, крайне мала, но в принципе не равна нулю.
Новости: “Фондовый рынок упал на 3% сегодня.”
Это факт?
Это число, записанное системой биржи. При условии, что система работала корректно. В зависимости от того, какая точка отсчёта определяет “3%”.
Это выглядит как факт, но строго говоря – это утверждение, записанное конкретной системой при конкретных условиях.
Иерархия истины
Надлежащая система знаний должна отражать эту эпистемологическую реальность в своём проектировании.
Если истина недоступна, то всё, с чем мы можем работать, – это утверждения об истине.
Поверх совокупности утверждений можно вычислить консенсус и достоверность.
Это можно структурировать в четыре уровня.
L3 — Повествование/Наблюдение: “Этот журналист, в это время, с этой точки зрения, сообщил это.” Самые примитивные данные. Субъективные и индивидуальные. Первичные данные, с которыми система знаний работает непосредственно.
L2 — Консенсус/Устоявшийся взгляд: “Синтезируя несколько повествований, вот наиболее правдоподобная версия.” Результат агрегирования нескольких утверждений L3. Вероятностный и предварительный.
L1 — Правила/Законы: “В этом мире действует это правило.” Законы физики, правила игры, социальные нормы. При их нарушении система входит в состояние противоречия.
L0 — Математика/Логика: 1+1=2. Правила логических операций. Только это одно не является утверждением. Это операционное правило движка. Не данные.
Ключевое:
Начальная точка всегда L3 — утверждения. Остальные уровни – производные, вычисленные поверх утверждений.
Почему существующие системы хранят факты?
Посмотрите на Wikidata.
Q50184 (Ли Сунсин)
- instance of: human
- occupation: naval commander
- date of death: 1598-12-16
Викиданные не то чтобы не знают об этой проблеме. К каждому утверждению можно приложить источники, присвоить ранг (rank) и поставить рядом противоречащие значения.
Но у многих утверждений есть значение и нет источника. Нет места, чтобы записать «насколько это достоверно». А те, кто берёт данные, обычно берут только значения. Источники и ранги отпадают, а значение остаётся, как будто это факт.
Утверждение, что Ли Сунсин умер 16 декабря 1598 года, является результатом консенсуса между множеством исторических источников и учёных, но в данных, извлечённых таким образом, оно выглядит как вселенская истина.
В большинстве случаев это не проблема. Потому что достоверность консенсуса достаточно высока.
Но рассмотрим такие ситуации:
Два новостных издания публикуют противоречащие друг другу отчёты об одном событии. Историк представляет новую интерпретацию, противоречащую устоявшемуся взгляду. Научная статья не может воспроизвести существующие экспериментальные результаты.
В системе, хранящей “факты”, это ошибка. Одно из них неверно. Это надо исправить.
В системе, хранящей “утверждения”, это нормально. Разные источники, с разных точек зрения, сделали разные утверждения. Оба утверждения записаны. Консенсус и достоверность вычисляются поверх них.
Реальность не чистоплотна. Противоречие – часть реальности. Система, которая считает противоречие ошибкой, не может вместить реальность.
Физическое происхождение галлюцинаций
Давайте ещё раз рассмотрим проблему галлюцинаций LLM с этой перспективы.
LLM обучаются на миллиардах предложений. Каждое предложение – утверждение, написанное кем-то в каком-то контексте.
Но LLM усваивают их не как “утверждения”, а как “факты о мире”.
Источники исчезают. Контекст исчезает. Достоверность исчезает. Точки зрения исчезают.
Остаются лишь статистические паттерны.
Поэтому LLM не может отличить “Ли Сунсин погиб в 1598 году” от “Ли Сунсин любил четырёхсложные идиомы.” Оба предложения могут встречаться с высокой вероятностью в обучающих данных, и без информации об источнике невозможно узнать, что одно – это устоявшееся историческое повествование, а другое – несуществующее утверждение.
Таково физическое происхождение галлюцинаций.
Когда фрагменты истины теряют свои источники и смешиваются, фабрикуются несуществующие “факты”.
Решение очевидно. Обращаться с фрагментами как с фрагментами. Записывать утверждения как утверждения. Структурно сохранять источники, контекст и достоверность.
Структурное решение
Правильная система знаний должна обращаться с каждым повествованием как с утверждением.
Когда предложение на естественном языке превращается в структурированное представление, должно быть место для:
Кто сделал утверждение – Источник Когда это было заявлено – Временной контекст В каком мире это утверждение – Контекст мира С какой точки зрения – POV (Point of View) Насколько это достоверно – Уровень уверенности
В GEUL такие места есть. Edge SOURCE связывает утверждение с его источником. Время, когда пропозиция верна, уточняется через QUALIFIER. Миры и сцены берут на себя Edge WORLD и SCENE, а уверенность всего документа — Meta CONFIDENCE.
Заполнять все не обязательно. Но то, что не записано, видно как незаписанное. Утверждение без источника выглядит как утверждение без SOURCE, и машина может его отобрать.
«Ли Сунсин был велик» в структурированном виде выглядит примерно так:
Утверждение Ли Сунсин (Q50184) — быть великим (оценка)
Источник прямое высказывание говорящего SOURCE
Время текущий разговор QUALIFIER
Мир реальный мир WORLD
Уверенность не записана
Даже для одного и того же предложения «Ли Сунсин был велик» представление совершенно разное в зависимости от того, излагает ли его учебник истории, высказывает ли его человек как личное впечатление или произносит персонаж романа.
Неоднозначность устраняется структурно. Утверждения записываются как утверждения. Фрагменты истины сохраняются как фрагменты.
Карта – не территория
Польско-американский учёный Альфред Коржибски сказал:
“Карта – не территория.”
Что нам нужно – это язык для рисования карт. Движок, который собирает карты и восстанавливает территорию.
Карта – не идеальная копия территории. Карта – это представление, нарисованное кем-то, для какой-то цели, в каком-то масштабе. Одного города могут быть десятки карт. Туристические карты, топографические карты, карты маршрутов, карты плотности населения. Все они – разные утверждения об одной территории.
Ни одна карта не является самой территорией. Но накладывая несколько карт друг на друга, наше понимание территории углубляется.
Именно так система знаний, основанная на утверждениях, обрабатывает мир. Она записывает бесчисленные утверждения в структурированной форме, обнаруживает консенсус и паттерны поверх них и строит всё более точное понимание территории.
Но она никогда не утверждает: “Это сама территория.”
Резюме
Истина физически недоступна.
- События исчезают в прошлое в момент возникновения. Быстрее скорости света.
- Всё, что остаётся, – фрагменты истины. Фотоны, записи, свидетельства.
- Даже мозг не хранит факты. Он хранит утверждения, реконструированные из фрагментов.
- Следовательно, первичные данные системы знаний не могут быть фактами. Это должны быть утверждения.
- Если считать утверждения фактами, противоречие становится ошибкой. Если считать их утверждениями, противоречие становится данными.
- Галлюцинации LLM – результат потери источников у утверждений.
- GEUL даёт каждому утверждению место для источника, времени, мира и уверенности. То, что не записано, видно как незаписанное.
Мы не обрабатываем истину. Мы обрабатываем предложения об истине. Это не смирение. Это физика.