Cubrim-2 · исследовательский трек

Глобальный Адресатор

Cubrim-2 задаёт другой вопрос, чем архиватор Cubrim-1: не «как сжать байты локально», а можно ли передавать данные короткими ссылками (стремимся к разумному минимуму — порядка десятков–сотен байт) в общие, заранее распространённые структуры — Универсальные Матрицы Данных Валентовых? Если отправитель и получатель располагают одинаковой большой структурой данных, передавать можно не весь объект, а инструкцию по выбору и сборке нужных фрагментов. Эта страница — живой журнал трека: список гипотез и каждый статус ниже приходят напрямую из исследовательской базы данных — здесь ничего не захардкожено и не приукрашено.

Честное ограничение — прежде всего

Фиксированный короткий код различает лишь конечное число состояний, а пространство возможных файлов растёт экспоненциально с длиной — поэтому один короткий адрес сам по себе не может однозначно обозначать каждую длинную последовательность. Адрес имеет смысл только вместе с каталогом, где объект уже находится. И любой честный результат обязан учитывать полную стоимость: адреса, метаданные, остаток — и саму общую матрицу, которая окупается только при амортизации по многим файлам и устройствам. Поэтому Cubrim-2 не обещает «сжать любой файл в 16 байт». Трек картирует, где глобальная адресация действительно выигрывает у локального сжатия, — и так же открыто фиксирует, где она структурно выиграть не может.

Сколько заняли бы ВСЕ возможные матрицы

Считаем в битах. N-мерный куб — это визуальное представление последовательности бит: куб 4×4×4 — это 64 бита, разложенные в трёх измерениях. Размерность (1D/2D/3D/4D) — способ разложить те же биты, а не другое их количество. Поэтому число всех возможных матриц длины B бит равно 2^B и зависит только от B: у 1D-строки в 64 бита и куба 4×4×4 одинаковые 2^64 ≈ 1.8×10^19 состояний.

B, бит куб-пример всех возможных = 2^B хранить все (байт) влезает в 20 000×1 ТБ?
8 2×2×2 2.56×10² 2.56×10² B да
27 3×3×3 1.34×10⁸ 4.53×10⁸ B да
51 —(порог/threshold) 2.25×10¹⁵ 1.44×10¹⁶ B да
64 4×4×4 1.84×10¹⁹ 1.48×10²⁰ B нет
125 5×5×5 4.25×10³⁷ 6.65×10³⁸ B нет
256 4×4×4×4 (4D) 1.16×10⁷⁷ 3.71×10⁷⁸ B нет
1000 10×10×10 1.07×10³⁰¹ 1.34×10³⁰³ B нет
4096 8×8×8×8 (4D) 1.04×10¹²³³ 5.35×10¹²³⁵ B нет

Ориентир ёмкости: 20 000 дисков по 1 ТБ = 2×10^16 байт = 1.6×10^17 бит. Порог полного перечисления — B = 51 бит: это последняя длина, при которой все 2^B матриц (вместе с содержимым, 2^B×B бит = 1.44×10^16 байт) ещё помещаются; при B = 52 — уже нет (2.93×10^16 байт). Куб 4×4×4 (64 бита): одни только 64-битные адреса всех 2^64 матриц заняли бы 1.48×10^20 байт ≈ 147.6 ЭБ — на четыре порядка больше нашего ориентира. При B = 256 матриц 1.16×10^77 — ещё чуть меньше числа атомов видимой Вселенной (~10^80); граница «больше, чем атомов» проходит на B ≈ 266. Дальше — сверхэкспоненциальный рост без каких-либо шансов на физическое хранение.

Честный вывод: «все возможные матрицы» перечислить нельзя — 2^B расходится сверхэкспоненциально уже на длинах меньше одного машинного слова. Поэтому Адресатор хранит не все возможные, а только РЕАЛЬНО ВСТРЕЧЕННЫЕ уникальные блоки (CAS/дедупликация): их число ограничено объёмом реальных данных и подчиняется измеренным законам трека — 89.9% блоков в некурируемой матрице встречаются ровно один раз (AH-19), а честные 16–64 байта на объект возможны только при точном совпадении с каталогом (AH-05). Это то же фундаментальное ограничение, что и в блоке выше: адрес имеет смысл только вместе с каталогом, где объект уже находится.

Про размерность: 2^B от неё не зависит, но размерность меняет то, какие биты попадают в один куб при нарезке РЕАЛЬНЫХ данных — а значит, сколько уникальных кубов встретится на практике. Это измеряется сканом (часть B эксперимента), а не формулой.

Формулы: число матриц = 2^B; хранить содержимое = 2^B × B бит; ординальный адрес одной матрицы = B бит (2^B состояний). Все числа посчитаны точной целочисленной арифметикой (python), не оценками.

Сколько места нужно под РЕАЛЬНО встреченные матрицы (скан-эксперимент)

Реальный КРОСС-ДЕВАЙС корпус 13.48 ГБ (union трёх хостов: arcana-devs 9.06 + arcana-www 3.38 + arcana-prod 1.04 ГБ; хосты обменивались только хэшами кубов) нарезан на кубы по B = 4096 бит (512 байт) в четырёх раскладках одной и той же длины: 1D-строка 4096, 2D 64×64, 3D 16×16×16, 4D 8×8×8×8. Раскладка группирует РАЗНЫЕ биты файла в один куб (страйдовое тайлинг при ширине строки 4096 байт), поэтому число уникальных кубов на реальных данных различается — хотя число возможных (2^4096) одинаково.

раскладка кубов в скане уникальных % уникальных кросс-хостовое перекрытие (кубов) хранить уникальные
1D 4096 25 890 520 14 965 607 57.80% 1 847 617 7.14 GiB
2D 64×64 19 368 448 12 077 059 62.35% 1 260 924 5.76 GiB
3D 16×16×16 13 959 168 8 020 728 57.46% 943 354 3.82 GiB
4D 8×8×8×8 10 518 528 5 578 363 53.03% 768 085 2.66 GiB

Насыщения НЕТ: число уникальных кубов растёт почти линейно до самого конца скана (кривая на devs-срезе: 1D 10.9 млн уникальных на 7.3 ГБ → 12.3 млн на 8.3 ГБ) — реальные данные на этой длине куба почти не «заканчиваются». На devs-срезе 72–82% уникальных кубов встретились ровно один раз — то же измеренное правило, что и AH-19 (89.9% на CDC-чанках): некурируемая матрица — в основном мёртвый вес. Кросс-хостовое перекрытие реально (0.77–1.85 млн кубов делятся между хостами), и именно оно снижает долю уникальных union-корпуса до 53–62%.

Диски под сам скан: 2.7–7.1 ГиБ уникальных матриц на 13.48 ГБ кросс-девайс данных — доли одного 1 ТБ-диска. Экстраполяция на мировой объём хранимых данных (порядка 10 ЗБ = 10^22 байт; оценка порядка величины по отчётам IDC Global DataSphere): при измеренной доле уникальных 53–62% на кросс-девайс корпусе и ОТСУТСТВИИ насыщения матрицы займут ~5.3–6.2 ЗБ — миллиарды 1 ТБ-дисков, то есть тот же порядок, что и сами данные. ЭКСТРАПОЛЯЦИЯ ЛИНЕЙНАЯ И ПОМЕЧЕНА КАК ДОПУЩЕНИЕ: состав мирового корпуса иной, насыщение на больших объёмах не исключено, но в скане не наблюдалось.

Выводы: (1) хранить даже только ВСТРЕЧЕННЫЕ матрицы в мировом масштабе — порядок самих данных: выигрыш Адресатора живёт не в «складе всех кубов», а в дедупликации повторной части (38–47% на union-корпусе) и курировании r≥2 (AH-19); (2) оптимальная раскладка по критерию «меньше уникальных» — 4D (53.0% уникальных против 62.4% у 2D на union-корпусе) — многомерная группировка действительно собирает повторяющиеся биты чаще, разница умеренная (~6–9 пп); (3) сравнение честное с оговоркой: раскладки требуют разного выравнивания (2D — блоки 256 КБ, 4D — 2 МБ), поэтому покрытие корпуса различается — числа даны по покрытой каждой раскладкой части.

Скрипты: probe_matrix_scan.py + matrix_scan_dump.py (страйды в шапке; кросс-девайс union через обмен только хэшами, MTX-scan-crossdevice-v1); хэш кубов blake2b-96; кривая насыщения — чекпоинты каждые 500 МБ; все числа измерены, экстраполяция помечена.

Волна 1 — исследование завершено

Deep-research волны 1 завершён: каждая из 24 гипотез несёт реальный измеренный вердикт (charged-учёт полной стоимости, falsification-тест прогнан, скрипт+SHA в карточке). GO означает «механизм работает и измерен», NO-GO — «закрыто измерением или строгой арифметикой». Предсказанные рычаги остаются предсказаниями и помечены; измеренные числа — в каждой карточке ниже.

NO-GO · 9 GO · 15
общий контекст (словарь / фрагменты) · 4 identity-дедупликация — ссылка ≪ payload при точном совпадении · 3 структурно не может выиграть (граница) · 4 учёт стоимости инфраструктуры · 10 ближайшее совпадение + дельта · 3

Сформировано: 2026-08-28T22:31:05Z · db:addressor_hypotheses

Гипотезы · 24

Страница 3 / 12

AH-05 GO W1 · 2026-07-13

Identity-dedup целого файла — эталон сверхкороткой ссылки

Если адрес = криптохэш целого файла (порядка десятков байт с метаданными) при объекте, уже лежащем в каталоге, то передача на классе точных повторов падает до ссылки, много меньшей payload, для файла любого размера, потому что различаем только уже сохранённое (pigeonhole не нарушен). Размер ссылки — метрика для минимизации, не жёсткий порог (operator clarification 2026-07-14).

Класс данных (Z)
инсталляторы, медиа-решеры, пакеты
Адресная цель
64 Б
Предсказанный рычаг
крупнейший честный рычаг; dup-mass 20-50% в enterprise (внешняя литература)
Категория потолка
identity-дедупликация — ссылка ≪ payload при точном совпадении
Механизм
exact whole-file match по каталогу
Тест фальсификации
file-level dup-mass на реальной смеси; <10% массы -> рычаг узок
Полная стоимость (total_cost)
address: 32 B криптохэш + ≤32 B метаданных (суммарно ≤64 B) · metadata: запись каталога · residual: 0 при exact-hit, ВЕСЬ файл при miss · amortized: хранение копии в матрице + каталог + первая передача файла (AH-19).
Вердикт пробы
GO: whole-file dup-mass 34.99% на реальном 3-хостовом объединении (12.94 ГБ), из них ЧИСТО кросс-хостовых 15.9% — worktree-искажение intra-среза не затрагивает кросс-срез, и он один превышает 10%-бар узости; charged-надбавка на файловой гранулярности 0.23 пп. Dedup детерминирован — вердикт обусловлен реалистичным составом корпуса; мульти-девайс эмулирован хэш-агрегацией (AH-23), payload не покидал хосты. MULTI-CLASS (2026-07-15): whole-file dup во всех 7 классах — от 5.4+6.9% (media) до 68.4+27.6% (archives); identity-рычаг живёт в каждом классе, сильнее всего в code/config/archives.
Измеренный результат
date
2026-07-14
probe
W1-dupmass-v0

corpus

host
arcana-devs
files
204 275
roots
~/arcanada~/cubrim-sources~/cubr-cm-work/cubrim-code

caveat

single-host snapshot; cross-device realism pending AH-23; worktree copies inflate dup-mass

total_bytes
7.93 GiB (8 517 809 533 B)
verdict
GO
dup_files
91 856

multiclass

date
2026-07-15
probe
DR-multiclass-v1

file_dup_pct_by_class

crossintra
web28.4119.11
code21.9148.57
docs11.421.75
media6.935.41
other6.623.35
config18.5945.14
archives27.5968.42

crossdevice

date
2026-07-14
probe
W1-crossdevice-v1

union

files
363 020
hosts
arcana-devsarcana-prodarcana-www
total_bytes
12.05 GiB (12 941 464 032 B)
dup_intra_pct
19.09%
dup_total_pct
34.99%
dup_cross_device_pct
15.9%

charge_terms

catalog_bytes
3.68 MiB (3 857 308 B)
addr_manifest_bytes
15.27 MiB (16 012 992 B)
dup_mass_pct
17.79%

verdict_note

GO: whole-file dup-mass 34.99% на реальном 3-хостовом объединении (12.94 ГБ), из них ЧИСТО кросс-хостовых 15.9% — worktree-искажение intra-среза не затрагивает кросс-срез, и он один превышает 10%-бар узости; charged-надбавка на файловой гранулярности 0.23 пп. Dedup детерминирован — вердикт обусловлен реалистичным составом корпуса; мульти-девайс эмулирован хэш-агрегацией (AH-23), payload не покидал хосты. MULTI-CLASS (2026-07-15): whole-file dup во всех 7 классах — от 5.4+6.9% (media) до 68.4+27.6% (archives); identity-рычаг живёт в каждом классе, сильнее всего в code/config/archives.

charged_savings_pct
17.55%
AH-06 NO-GO W1 · 2026-07-13

Гистограмма+хэш как носитель — анти-гипотеза

Если использовать byte-histogram+хэш как адрес для восстановления, то реконструкция на нетривиальном классе невозможна за вычислимое время, потому что гистограмма уничтожает порядок (L!/∏ci! кандидатов), а явная передача перестановки стоит энтропию файла.

Класс данных (Z)
любой нетривиальный
Адресная цель
н/п
Предсказанный рычаг
NO-GO как носитель; честная роль — integrity/поисковый ключ (AH-14)
Категория потолка
структурно не может выиграть (граница)
Механизм
потеря порядка; невычислимый поиск канонического представителя по хэшу
Тест фальсификации
класс где мультимножество почти определяет порядок (sorted data) — ниша <<1%
Полная стоимость (total_cost)
address: histogram+hash (сотни байт) · metadata: — · residual: явная перестановка log2(L!/∏cᵢ!) бит ≈ энтропия файла, либо невычислимый перебор · amortized: —.
Вердикт пробы
NO-GO — анти-гипотеза ПОДТВЕРЖДЕНА измерением: информация порядка, уничтожаемая гистограммой (log2 мультиномиала), составляет медианно 144% от полной информации файла (p10 уже 93%) — гистограмма+хэш как носитель не оставляет пути к реконструкции дешевле энтропии самого файла. Честная роль пары — integrity/fingerprint.
Измеренный результат
date
2026-07-15
probe
W1-occupancy-perm-v1

sample

3000 реальных файлов 256Б..4МиБ (seed=42)

verdict
NO-GO

verdict_note

NO-GO — анти-гипотеза ПОДТВЕРЖДЕНА измерением: информация порядка, уничтожаемая гистограммой (log2 мультиномиала), составляет медианно 144% от полной информации файла (p10 уже 93%) — гистограмма+хэш как носитель не оставляет пути к реконструкции дешевле энтропии самого файла. Честная роль пары — integrity/fingerprint.

permutation_share_of_info_pct

p10
93.1%
p50
144.2%
p90
239.7%

Страница 3 / 12

Где Адресатор не может выиграть у локального сжатия

Волна 1 фиксирует шесть границ — явными анти-гипотезами и no-win-зонами: уникальные высокоэнтропийные данные (личные медиа, шифрованные потоки — глобально ничего не повторяется); мелкие уникальные файлы ниже точки инверсии (постоянные издержки каталога превышают любую экономию); математически генерируемые матрицы (адрес в исчерпывающий или случайный пул стоит не меньше самого содержимого); байтовая гистограмма или хэш как носитель данных (порядок теряется, а его восстановление стоит энтропию файла); long-tail-контент, запрашиваемый примерно один раз (первая передача не окупается); и фрагментные схемы, чей выигрыш вырождается в то, что уже даёт общий словарь. Крошечная ссылка фиксированного размера (десятки байт) на объект честно достижима только при точном совпадении с каталогом, где объект уже хранится; во всех остальных случаях критерий выигрыша один — ссылка со всеми учтёнными издержками должна оставаться много меньше заменяемых данных: размер ссылки — метрика для минимизации, а не жёсткий порог.