מה חדש ב-WebGPU (Chrome {8/}120)

François Beaufort
François Beaufort

תמיכה בערכי נקודה צפה (floating-point) של 16 ביט ב-WGSL

ב-WGSL, סוג f16 הוא קבוצה של ערכי נקודה צפה (floating-point) של 16 ביט בפורמט IEEE-754 בינארי16 (חצי דיוק). כלומר, היא משתמשת ב-16 ביטים כדי לייצג מספר נקודה צפה (floating-point), בניגוד ל-32 ביטים בנקודה צפה (floating-point) קונבנציונלי חד-פעמי (f32). שימוש בגודל קטן יותר יכול להוביל לשיפורים משמעותיים בביצועים, במיוחד כשמעבדים כמויות גדולות של נתונים.

לעומת זאת, במכשיר Apple M1 Pro, ההטמעה של f16 של מודלים של Llama2 7B שנעשה בהם שימוש בהדגמה של WebLLM מהירה יותר באופן משמעותי מההטמעה של f32. המהירות הזו השתפרה ב-28% מבחינת מהירות הפענוח ויש שיפור של 41% במהירות הפענוח, כפי שמוצג בצילומי המסך הבאים.

צילום מסך של הדגמות בצ'אט ב-WebLLM עם מודלים f32 ו-f16 Llama2 7B.
הדגמות של צ'אט ב-WebLLM עם מודלים של f32 (משמאל) ו-f16 (ימין) של Llama2 7B.

לא כל יחידות ה-GPU תומכות בערכי נקודה צפה (floating-point) של 16 ביט. כשהתכונה "shader-f16" זמינה ב-GPUAdapter, עכשיו אפשר לבקש GPUDevice עם התכונה הזו וליצור מודול של תוכנת ההצללה (shader) WGSL שמנצל את הסוג של נקודה צפה (floating-point) חצי דיוק f16. הסוג הזה תקף לשימוש במודול תוכנת ההצללה של WGSL רק אם מפעילים את תוסף WGSL f16 עם enable f16;. אחרת, createShaderModule() ייצור שגיאת אימות. אפשר לראות את הדוגמה המינימלית הבאה ואת הבעיה dawn:1510.

const adapter = await navigator.gpu.requestAdapter();
if (!adapter.features.has("shader-f16")) {
  throw new Error("16-bit floating-point value support is not available");
}
// Explicitly request 16-bit floating-point value support.
const device = await adapter.requestDevice({
  requiredFeatures: ["shader-f16"],
});

const code = `
  enable f16;

  @compute @workgroup_size(1)
  fn main() {
    const c : vec3h = vec3<f16>(1.0h, 2.0h, 3.0h);
  }
`;

const shaderModule = device.createShaderModule({ code });
// Create a compute pipeline with this shader module
// and run the shader on the GPU...

אפשר לתמוך בסוגים f16 ו-f32 בקוד המודול של תוכנת ההצללה (shader) WGSL באמצעות alias, בהתאם לתמיכה בתכונה "shader-f16" כמו שמוצג בקטע הקוד הבא.

const adapter = await navigator.gpu.requestAdapter();
const hasShaderF16 = adapter.features.has("shader-f16");

const device = await adapter.requestDevice({
  requiredFeatures: hasShaderF16 ? ["shader-f16"] : [],
});

const header = hasShaderF16
  ? `enable f16;
     alias min16float = f16;`
  : `alias min16float = f32;`;

const code = `
  ${header}

  @compute @workgroup_size(1)
  fn main() {
    const c = vec3<min16float>(1.0, 2.0, 3.0);
  }
`;

פורצים את הגבולות

כברירת מחדל, המספר המקסימלי של בייטים שנדרשים כדי להחזיק דגימה אחת (פיקסל או תת-פיקסל) של נתוני פלט של צינור עיבוד נתונים לרינדור, בכל הקבצים המצורפים של הצבעים, הוא 32 בייטים. עכשיו אפשר לבקש עד 64 תווים באמצעות המגבלה של maxColorAttachmentBytesPerSample. אפשר לראות את הדוגמה הבאה ואת הבעיה dawn:2036.

const adapter = await navigator.gpu.requestAdapter();

if (adapter.limits.maxColorAttachmentBytesPerSample < 64) {
  // When the desired limit isn't supported, take action to either fall back to
  // a code path that does not require the higher limit or notify the user that
  // their device does not meet minimum requirements.
}

// Request highest limit of max color attachments bytes per sample.
const device = await adapter.requestDevice({
  requiredLimits: { maxColorAttachmentBytesPerSample: 64 },
});

המגבלות על maxInterStageShaderVariables ו-maxInterStageShaderComponents שמשמשות לתקשורת בין שלבים הוגדלו בכל הפלטפורמות. לפרטים נוספים, ראו גיליון dawn:1448.

בכל שלב של תוכנת ההצללה, המספר המקסימלי של רשומות בפריסת קבוצת קישורים בפריסת צינור עיבוד נתונים, שהוא מאגרי אחסון זמני, הוא 8 כברירת מחדל. עכשיו אפשר לבקש עד 10 בקשות תוך שימוש במגבלה של maxStorageBuffersPerShaderStage. ראו גיליון dawn:2159.

נוספה מגבלה חדשה על maxBindGroupsPlusVertexBuffers. הוא מורכב מהמספר המקסימלי של חריצים למאגר נתונים וקודקודים שבהם משתמשים בו-זמנית, תוך ספירה של כל המשבצות הריקות מתחת לאינדקס הגבוה ביותר. ערך ברירת המחדל שלו הוא 24. ראו גיליון dawn:1849.

שינויים במצב העומק של שבלונה

כדי לשפר את חוויית המפתח, אין יותר צורך במאפיינים של מצב העומק depthWriteEnabled ו-depthCompare: המאפיין depthWriteEnabled נדרש רק לפורמטים עם עומק, ולא נדרש יותר depthCompare לפורמטים עם עומק אם לא משתמשים בהם בכלל. ראו גיליון dawn:2132.

עדכונים למידע על המתאם

מאפיינים של פרטי מתאמים type ו-backend לא סטנדרטיים זמינים עכשיו בעת קריאה ל-requestAdapterInfo() לאחר שהמשתמש מפעיל את "תכונות למפתחים של WebGPU" סימון ב-chrome://flags/#enable-webgpu-developer-features. הערך של type יכול להיות 'GPU נפרד', 'GPU משולב', 'מעבד' או 'לא ידוע'. הערך של backend הוא "WebGPU" , "D3D11", "D3D12", "Metaal", "vulkan", "openGL", "openGLES" או "null". אפשר לעיין במהדורה dawn:2112 ובגיליון dawn:2107.

צילום מסך של https://webgpureport.org שכולל את הקצה העורפי ומזינים את פרטי המתאם.
הקצה העורפי והסוג של פרטי המתאם מוצגים בכתובת https://webgpureport.org.

הפרמטר האופציונלי הרשימה unmaskHints ב-requestAdapterInfo() הוסר. ראו גיליון dawn:1427.

כימות חותמות זמן של שאילתות

שאילתות חותמת זמן מאפשרות לאפליקציות למדוד את זמן הביצוע של פקודות GPU ברמת דיוק של ננו-שנייה. עם זאת, במפרט של WebGPU שאילתות חותמת זמן לא אופציונליות עקב בעיות של התקפת תזמון. צוות Chrome מאמין שכימות חותמות זמן של שאילתות מספקים התאמה טובה בין דיוק לאבטחה, על ידי הפחתת הרזולוציה ל-100 מיקרו-שניות. ראו גיליון dawn:1800.

ב-Chrome, משתמשים יכולים להשבית את הכיול של חותמות הזמן על ידי הפעלת התכונה WebGPU Developer Features (תכונות למפתחים של WebGPU) flag ב-chrome://flags/#enable-webgpu-developer-features. לתשומת ליבכם: הדגל הזה לבדו לא מפעיל את התכונה "timestamp-query". ההטמעה שלה עדיין ניסיונית ולכן נדרשת 'תמיכה לא בטוחה ב-WebGPU' בסימון chrome://flags/#enable-unsafe-webgpu.

בשעת הזריחה, מופיע מתג חדש במכשיר שנקרא timestamp_quantization נוסף והוא מופעל כברירת מחדל. קטע הקוד הבא מראה לך איך להפעיל את התכונה הניסיונית 'חותמת זמן-שאילתה' ללא כימות חותמת זמן כשמבקשים מכשיר.

wgpu::DawnTogglesDescriptor deviceTogglesDesc = {};

const char* allowUnsafeApisToggle = "allow_unsafe_apis";
deviceTogglesDesc.enabledToggles = &allowUnsafeApisToggle;
deviceTogglesDesc.enabledToggleCount = 1;

const char* timestampQuantizationToggle = "timestamp_quantization";
deviceTogglesDesc.disabledToggles = &timestampQuantizationToggle;
deviceTogglesDesc.disabledToggleCount = 1;

wgpu::DeviceDescriptor desc = {.nextInChain = &deviceTogglesDesc};

// Request a device with no timestamp quantization.
myAdapter.RequestDevice(&desc, myCallback, myUserData);

תכונות לניקיון האביב

השיטה הניסיונית "timestamp-query-inside-passes" השם של התכונה השתנה ל-"chromium-experimental-timestamp-query-inside-passes" כדי להבהיר למפתחים שהתכונה הזו היא ניסיונית וזמינה בינתיים רק בדפדפנים המבוססים על Chromium. ראו גיליון dawn:1193.

המודל הניסיוני "צינור עיבוד נתונים-נתונים סטטיסטיים" , שמוטמעת באופן חלקי בלבד, הוסרה מאחר שכבר לא בתהליך פיתוח. ראו בעיה כ-chromium:1177506.

זה כולל רק חלק מהעדכונים העיקריים. אתם מוזמנים לעיין ברשימה המלאה של ההתחייבויות.

מה חדש ב-WebGPU

רשימה של כל מה שדיברנו עליו בסדרה מה חדש ב-WebGPU.

Chrome 127

Chrome 126

Chrome 125

Chrome 124

Chrome 123

Chrome 122

Chrome 121

Chrome 120

Chrome 119

Chrome 118

Chrome 117

Chrome 116

Chrome 115

Chrome 114

Chrome 113