DENSE-BFLOAT16-VECTOR שומר דפוסי ביטים של איברים בני 16 ביט מסוג bfloat16 ברצף, ללא descriptor. זהו פורמט שונה מ-binary16.

פריסה

  • קוד: Value ‏VALUE-ISSUER-2WORD (0x09DL), Issuer ‏0x00000002 ADHOC, מספר Codec ‏0x00000507. משפחה NUMERIC.
TAG WORD          0000 1001 1101 LLLL      Codec 0x09DL
[TAG הרחבת Length] כאשר הסך הכול 15 WORD ומעלה
Issuer            2 WORD  0x00000002 (ADHOC)
מספר Codec        2 WORD  0x00000507
Payload: [BF16 bits 1st: 1 WORD] ... [BF16 bits Nth: 1 WORD]

כללי פירוש

  • מספר האיברים הוא מספר ה-WORD ב-Payload. דפוס הביטים, כולל NaN payload ו-signed zero, נשמר כמות שהוא.
  • אין ABI padding בין האיברים או בסופם.

תקינות

  • ה-Payload חייב להיות 1 WORD לפחות. הפורמט הזה, שאין בו descriptor, אינו מתיר vector ריק.
  • גודל ה-Payload חייב להיות כפולה שלמה של רוחב האיבר, 1 WORD.

בסיס בתקנים ומעמד הפורמט

  • ההבחנה של bfloat16 כ-dtype נפרד בן 16 ביט, שונה מ-binary16, מותאמת ל-tensor element type ב-ONNX IR ול-kDLBfloat של DLPack.
  • רצף חד-ממדי של דפוסי ביטים ללא descriptor, וכן הסידור של GEUL TAG/Length ושל WORD big-endian בן 16 ביט, הם פורמט ייחודי של GEUL. DLPack מניח native-endian, ולכן ה-Payload הזה אינו ה-wire serialization של DLPack, Arrow או ONNX.

אורך

  • הסך הכול הוא מספר ה-WORD של TAG אחד, TAG הרחבת Length (אם יש), Issuer של 2 WORD, מספר Codec של 2 WORD ו-Payload. עד 14 WORD משתמשים באורך ישיר, ומ-15 WORD ומעלה באורך מורחב 1110·1111, וה-TAG המורחב נכלל בסך הכול (Length).

דוגמה

  • ה-Payload ‏3F80 8000 הוא BF16 ‏1.0 ו--0, ורשומה של 7 WORD בסך הכול.