DENSE-BFLOAT16-VECTOR שומר דפוסי ביטים של איברים בני 16 ביט מסוג bfloat16 ברצף, ללא descriptor. זהו פורמט שונה מ-binary16.
פריסה
- קוד: Value
VALUE-ISSUER-2WORD(0x09DL), Issuer 0x00000002ADHOC, מספר Codec 0x00000507. משפחה NUMERIC.
TAG WORD 0000 1001 1101 LLLL Codec 0x09DL
[TAG הרחבת Length] כאשר הסך הכול 15 WORD ומעלה
Issuer 2 WORD 0x00000002 (ADHOC)
מספר Codec 2 WORD 0x00000507
Payload: [BF16 bits 1st: 1 WORD] ... [BF16 bits Nth: 1 WORD]
כללי פירוש
- מספר האיברים הוא מספר ה-WORD ב-Payload. דפוס הביטים, כולל NaN payload ו-signed zero, נשמר כמות שהוא.
- אין ABI padding בין האיברים או בסופם.
תקינות
- ה-Payload חייב להיות 1 WORD לפחות. הפורמט הזה, שאין בו descriptor, אינו מתיר vector ריק.
- גודל ה-Payload חייב להיות כפולה שלמה של רוחב האיבר, 1 WORD.
בסיס בתקנים ומעמד הפורמט
- ההבחנה של bfloat16 כ-dtype נפרד בן 16 ביט, שונה מ-binary16, מותאמת ל-tensor element type ב-ONNX IR ול-
kDLBfloatשל DLPack. - רצף חד-ממדי של דפוסי ביטים ללא descriptor, וכן הסידור של GEUL TAG/Length ושל WORD big-endian בן 16 ביט, הם פורמט ייחודי של GEUL. DLPack מניח native-endian, ולכן ה-Payload הזה אינו ה-wire serialization של DLPack, Arrow או ONNX.
אורך
- הסך הכול הוא מספר ה-WORD של TAG אחד, TAG הרחבת Length (אם יש), Issuer של 2 WORD, מספר Codec של 2 WORD ו-Payload. עד 14 WORD משתמשים באורך ישיר, ומ-15 WORD ומעלה באורך מורחב
1110·1111, וה-TAG המורחב נכלל בסך הכול (Length).
דוגמה
- ה-Payload
3F80 8000הוא BF16 1.0ו--0, ורשומה של 7 WORD בסך הכול.