DESCRIBED-PACKED-TENSOR는 shape와 packed format을 Payload descriptor에 적고 WORD보다 작은 원소를 packed로 저장하는 텐서 Value다. Value VALUE-ISSUER-2WORD(0x09DL), Issuer 0x00000002 ADHOC, 코덱 번호 0x00000601, 계열 NUMERIC이다.
레이아웃
TAG WORD 0000 1001 1101 LLLL Codec 0x09DL
[Length 확장 TAG] 전체 15 WORD 이상일 때
Issuer 2 WORD 0x00000002 (ADHOC)
코덱 번호 2 WORD 0x00000601
Payload WORD 1st [version: 4bit][packed-format: 8bit][rank: 4bit]
Payload next [dimension 1: uint32, 2 WORD] ... [dimension rank: uint32, 2 WORD]
Payload 나머지 [packed payload octet stream, low-bit-first]
해석
- rank는 descriptor의 4bit 값이므로 구조적으로
0..15만 표현한다. 각 dimension은 음이 아닌 big-endian uint32다. 논리 순서는 C-contiguous row-major다. - ONNX의 논리 tensor 규칙처럼 rank 0 shape
[]는 원소 1개의 scalar이고, dimension 중 하나라도 0이면 원소 수는 0이다. 그 밖의 원소 수는 모든 dimension의 곱이다. - packed-format은 int2/int4, FP4/FP6, 특정 FP8 variant처럼 원소 encoding과 bit 폭을 고정한다.
- payload octet sequence를
p[0], p[1], ...라 하고 little-bit-endian 정수P = Σ(p[j] << (8j))로 보면, 폭w인 논리 원소i는(P >> (i × w)) & ((1 << w) - 1)이다. 즉 첫 원소부터 가장 낮은 비트에 넣는다. - WORD에는
p[0]을 첫 WORD의 상위 octet,p[1]을 하위 octet 순으로 싣는다. 마지막 사용 octet의 미사용 상위 tail bit는 0이어야 하고, payload octet 수가 홀수이면 마지막 WORD의 미사용 하위 octet 전체가00이어야 한다.
유효성
- 지원하는 format의 bit 폭을 적용했을 때 overflow 없이 계산한 shape의 dimension 곱과 payload 원소 수가 맞아야 한다.
- 필요한 payload bit 뒤의 high tail bit나 octet padding이 하나라도 1이면 거부한다. descriptor, shape, payload는 레코드 Length 안에 완전히 들어가야 한다.
표준 근거와 형식 지위
- shape, rank 0 scalar, zero dimension의 논리적 뜻은 ONNX IR Tensor Definition을 따른다. sub-byte 원소를 낮은 bit부터 놓는 규칙은 공식 ONNX TensorProto schema의 int2/int4 packing과 DLPack
DLDataType의 little bit-endian packing을 따른다. - 4bit rank, uint32 dimension, version/packed-format field, octet을 big-endian WORD로 묶는 방식, GEUL TAG/Length는 GEUL 고유 descriptor다. ONNX, Apache Arrow tensor, DLPack 자체의 wire·memory serialization이 아니다.
길이
- 전체는 TAG 1 WORD, Length 확장 TAG(있으면), Issuer 2 WORD, 코덱 번호 2 WORD, Payload를 합한 WORD 수다. 14 WORD 이하는 직접 길이, 15 WORD 이상은
1110·1111확장 길이를 쓰며 확장 TAG도 전체 수에 들어간다(레코드와 TAG WORD). - descriptor는 1 WORD, shape는
2 × rankWORD이며 나머지가 packed payload다. - 논리 원소 수가
N, 원소 폭이w이면 payload octet 수는ceil(N × w / 8), payload WORD 수는ceil(payload octet 수 / 2)다.
예시
- rank가 2인 profile이라면 descriptor 뒤 4 WORD가 shape이고 그 뒤가 low-bit-first payload octet sequence다. 원소 폭과 실제 허용 여부는 확정된 format profile로 판단한다.
- 4bit 원소
[1, 2, 3]의 payload octet sequence는21 03이고 payload WORD는2103이다. 첫 원소가 첫 octet의 낮은 nibble에 있고, 마지막 octet의 미사용 높은 nibble은 0이다.
열린 문제
- version과 packed-format registry의 값, 그리고 표현 가능한 rank
0..15중 지원할 profile 범위는 아직 정하지 않았다.