Tính năng mới trong WebGPU (Chrome lúc 120)

François Beaufort
François Beaufort

Hỗ trợ các giá trị dấu phẩy động 16 bit trong WGSL

Trong WGSL, loại f16 là tập hợp các giá trị dấu phẩy động 16 bit ở định dạng IEEE-754 binary16 (nửa độ chính xác). Điều này có nghĩa là mã này sử dụng 16 bit để biểu diễn số dấu phẩy động, thay vì 32 bit cho dấu phẩy động có độ chính xác đơn thông thường (f32). Kích thước nhỏ hơn này có thể dẫn đến những cải thiện đáng kể về hiệu suất, đặc biệt là khi xử lý một lượng lớn dữ liệu.

Để so sánh, trên thiết bị Apple M1 Pro, việc triển khai f16 mẫu Llama2 7B dùng trong bản minh hoạ trò chuyện WebLLM nhanh hơn đáng kể so với f32, với tốc độ điền sẵn tăng 28% và tốc độ giải mã tăng 41%, như minh hoạ trong ảnh chụp màn hình sau.

Ảnh chụp màn hình bản minh hoạ trò chuyện của WebLLM với các mẫu f32 và f16 Llama2 7B.
Bản minh hoạ trò chuyện WebLLM với mô hình f32 (bên trái) và f16 (bên phải) Llama2 7B.

Không phải GPU nào cũng hỗ trợ giá trị dấu phẩy động 16 bit. Giờ đây, khi tính năng "shader-f16" có trong GPUAdapter, bạn có thể yêu cầu GPUDevice cho tính năng này và tạo mô-đun chương trình đổ bóng WGSL tận dụng loại dấu phẩy động có độ bán chính xác f16. Kiểu này chỉ hợp lệ để sử dụng trong mô-đun chương trình đổ bóng WGSL nếu bạn bật tiện ích WGSL f16 bằng enable f16;. Nếu không, createShaderModule() sẽ tạo ra lỗi xác thực. Hãy xem ví dụ tối thiểu sau và Vấn đề bình minh:1510.

const adapter = await navigator.gpu.requestAdapter();
if (!adapter.features.has("shader-f16")) {
  throw new Error("16-bit floating-point value support is not available");
}
// Explicitly request 16-bit floating-point value support.
const device = await adapter.requestDevice({
  requiredFeatures: ["shader-f16"],
});

const code = `
  enable f16;

  @compute @workgroup_size(1)
  fn main() {
    const c : vec3h = vec3<f16>(1.0h, 2.0h, 3.0h);
  }
`;

const shaderModule = device.createShaderModule({ code });
// Create a compute pipeline with this shader module
// and run the shader on the GPU...

Bạn có thể hỗ trợ cả hai loại f16f32 trong mã mô-đun chương trình đổ bóng WGSL với một alias tuỳ thuộc vào khả năng hỗ trợ tính năng "shader-f16" như minh hoạ trong đoạn mã sau.

const adapter = await navigator.gpu.requestAdapter();
const hasShaderF16 = adapter.features.has("shader-f16");

const device = await adapter.requestDevice({
  requiredFeatures: hasShaderF16 ? ["shader-f16"] : [],
});

const header = hasShaderF16
  ? `enable f16;
     alias min16float = f16;`
  : `alias min16float = f32;`;

const code = `
  ${header}

  @compute @workgroup_size(1)
  fn main() {
    const c = vec3<min16float>(1.0, 2.0, 3.0);
  }
`;

Phá vỡ giới hạn

Theo mặc định, số byte tối đa cần thiết để lưu giữ một mẫu (pixel hoặc pixel con) của dữ liệu đầu ra của quy trình kết xuất trên tất cả các tệp đính kèm màu là 32 byte. Giờ đây, bạn có thể yêu cầu lên đến 64 bằng cách sử dụng hạn mức maxColorAttachmentBytesPerSample. Hãy xem ví dụ sau và vấn đề bình minh:2036.

const adapter = await navigator.gpu.requestAdapter();

if (adapter.limits.maxColorAttachmentBytesPerSample < 64) {
  // When the desired limit isn't supported, take action to either fall back to
  // a code path that does not require the higher limit or notify the user that
  // their device does not meet minimum requirements.
}

// Request highest limit of max color attachments bytes per sample.
const device = await adapter.requestDevice({
  requiredLimits: { maxColorAttachmentBytesPerSample: 64 },
});

Giới hạn maxInterStageShaderVariablesmaxInterStageShaderComponents dùng cho hoạt động giao tiếp giữa các giai đoạn đã được tăng lên trên tất cả các nền tảng. Hãy xem mục Vấn đề bình minh:1448 để biết thông tin chi tiết.

Đối với mỗi giai đoạn của chương trình đổ bóng, theo mặc định, số lượng mục nhập bố cục nhóm liên kết tối đa trên một bố cục quy trình (là vùng đệm lưu trữ) là 8. Giờ đây, bạn có thể yêu cầu lên đến 10 yêu cầu bằng cách sử dụng hạn mức maxStorageBuffersPerShaderStage. Hãy xem mục Vấn đề bình minh:2159.

Đã thêm hạn mức maxBindGroupsPlusVertexBuffers mới. Giao diện này bao gồm số khe nhóm liên kết và khe đệm đỉnh tối đa được sử dụng đồng thời, đếm bất kỳ khe trống nào bên dưới chỉ mục cao nhất. Giá trị mặc định của nó là 24. Xem Vấn đề bình minh:năm 1849.

Thay đổi trạng thái khuôn mẫu theo chiều sâu

Để cải thiện trải nghiệm của nhà phát triển, các thuộc tính trạng thái chiều sâu depthWriteEnableddepthCompare không phải lúc nào cũng cần thiết nữa: depthWriteEnabled chỉ bắt buộc cho các định dạng có chiều sâu và depthCompare không bắt buộc cho các định dạng có chiều sâu nếu không được sử dụng. Hãy xem mục Vấn đề bình minh:2132.

Cập nhật thông tin về bộ chuyển đổi

Các thuộc tính thông tin về bộ chuyển đổi typebackend không chuẩn hiện đã có sẵn khi gọi requestAdapterInfo() khi người dùng bật cờ "Các tính năng dành cho nhà phát triển WebGPU" tại chrome://flags/#enable-webgpu-developer-features. type có thể là "GPU rời", "GPU tích hợp", "CPU" hoặc "không xác định". backend là "WebGPU", "D3D11", "D3D12", "metal", "vulkan", "openGL", "openGLES" hoặc "null". Hãy xem Vấn đề bình minh:2112Bình minh của vấn đề:2107.

Ảnh chụp màn hình https://webgpureport.org giới thiệu phần phụ trợ và nhập thông tin về bộ chuyển đổi.
Loại và phụ trợ thông tin bộ chuyển đổi xuất hiện trên https://webgpureport.org.

Tham số danh sách unmaskHints không bắt buộc trong requestAdapterInfo() đã bị xoá. Xem nội dung Vấn đề bình minh:1427.

Số lượng truy vấn dấu thời gian

Truy vấn dấu thời gian cho phép các ứng dụng đo lường thời gian thực thi các lệnh GPU với độ chính xác nano giây. Tuy nhiên, thông số kỹ thuật WebGPU khiến các truy vấn dấu thời gian là không bắt buộc do vấn đề về tấn công thời gian. Nhóm Chrome tin rằng việc lượng tử hoá các truy vấn dấu thời gian sẽ mang lại sự thoả đáng giữa độ chính xác và tính bảo mật, bằng cách giảm độ phân giải xuống còn 100 micrô giây. Xem Vấn đề bình minh:1800.

Trong Chrome, người dùng có thể tắt tính năng lượng tử dấu thời gian bằng cách bật cờ "Các tính năng dành cho nhà phát triển WebP" tại chrome://flags/#enable-webgpu-developer-features. Xin lưu ý rằng chỉ riêng cờ này thì không được bật tính năng "timestamp-query". Quá trình triển khai tính năng này vẫn đang trong quá trình thử nghiệm nên yêu cầu phải có cờ "Hỗ trợ WebGPU không an toàn" tại chrome://flags/#enable-unsafe-webgpu.

Trong Dawn, một nút bật/tắt thiết bị mới có tên là "timestamp_quantization" đã được thêm vào và được bật theo mặc định. Đoạn mã sau đây hướng dẫn bạn cách cho phép tính năng "truy vấn dấu thời gian" thử nghiệm mà không cần lượng tử hoá dấu thời gian khi yêu cầu một thiết bị.

wgpu::DawnTogglesDescriptor deviceTogglesDesc = {};

const char* allowUnsafeApisToggle = "allow_unsafe_apis";
deviceTogglesDesc.enabledToggles = &allowUnsafeApisToggle;
deviceTogglesDesc.enabledToggleCount = 1;

const char* timestampQuantizationToggle = "timestamp_quantization";
deviceTogglesDesc.disabledToggles = &timestampQuantizationToggle;
deviceTogglesDesc.disabledToggleCount = 1;

wgpu::DeviceDescriptor desc = {.nextInChain = &deviceTogglesDesc};

// Request a device with no timestamp quantization.
myAdapter.RequestDevice(&desc, myCallback, myUserData);

Tính năng vệ sinh lò xo

Tính năng thử nghiệm "timestamp-query-inside-passes" đã được đổi tên thành "chromium-experimental-timestamp-query-inside-passes" để giúp các nhà phát triển hiểu rõ rằng tính năng này hiện đang ở giai đoạn thử nghiệm và hiện chỉ có trong các trình duyệt dựa trên Chromium. Hãy xem mục Vấn đề bình minh:1193.

Tính năng "pipeline-statistics-query" thử nghiệm (chỉ mới được triển khai một phần) đã bị xoá vì không còn được phát triển nữa. Xem phần vấn đề chromium:1177506.

Bài viết này chỉ bao gồm một số điểm nổi bật chính. Xem danh sách đầy đủ các thay đổi.

Tính năng mới trong WebGPU

Danh sách tất cả nội dung được đề cập trong loạt bài Có gì mới trong WebGPU.

Chrome 125

Chrome 124

Chrome 123

Chrome 122

Chrome 121

Chrome 120

Chrome 119

Chrome 118

Chrome 117

Chrome 116

Chrome 115

Chrome 114

Chrome 113