AIには新しい言語が必要だ
GEUL — 人間とAIの間の曖昧さのないコミュニケーションのための人工言語
アーキテクチャ
なぜ意味整列インデックスなのか?
IDが住所ではなく知識なら、JOINなしにビット演算一回で候補を絞り込める。GEULが研究中の意味整列識別子SIDXの構想と、その幅を使用統計で決めようとする理由を扱う。
アーキテクチャ
なぜ16ビットなのか?
16ビットのワード一つを、ネットワークのストリーム、ファイルフォーマット、LLMの語彙という三つの世界の単位になるよう設計した。なぜ8ビットでも32ビットでも可変長でもなく16ビットなのかを説明する。
アーキテクチャ
なぜ構造化された記憶が必要なのか?
AIはファイルを書くのは得意だが、自分が書いたファイルを見つけられない。問題は保存ではなく取り出しだ。目次や索引のように「どこに何があるか」を記した一枚の地図から、構造化された記憶までの道を扱う。
アーキテクチャ
なぜ推論をコードとしてキャッシュするのか?
LLMに毎回ゼロから推論させる代わりに、一度行った推論をコードに固めてキャッシュする。キャッシュミスのときだけLLMを呼ぶJITコンパイラのような構造と、その効果を扱う。
アーキテクチャ
なぜ注釈はインデックスであるべきなのか
注釈は人間のために書く。しかし関数が10,000個あるとき、機械も読まなければならない。注釈を叙述からインデックスに変えれば、フルスキャンが即座に検索になる。
アーキテクチャ
なぜ空けておかなければならないのか
GEULは、すべてのレコードの先頭にある16ビットTAG WORDの空間の75%を空けておく。IPv4、Unicode、ASCIIの教訓——埋めるコストは取り返しがつかないが、空けておくコストはレコードあたり3ビットだ。