Эта страница переведена с помощью Cloud Translation API.

Что нового в WebGPU (Chrome 120)

François Beaufort

Поддержка 16-битных значений с плавающей точкой в WGSL

В WGSL тип f16 представляет собой набор 16-битных значений с плавающей точкой формата IEEE-754 binary16 (половинная точность). Это означает, что он использует 16 бит для представления числа с плавающей точкой, в отличие от 32 бит для обычного числа с плавающей точкой одинарной точности ( f32 ). Этот меньший размер может привести к значительному повышению производительности , особенно при обработке больших объемов данных.

Для сравнения, на устройстве Apple M1 Pro реализация f16 моделей Llama2 7B, используемая в демонстрации чата WebLLM, значительно быстрее реализации f32 , с улучшением скорости предварительного заполнения на 28% и улучшением скорости декодирования на 41%, как показано на следующих снимках экрана.

Скриншот демонстраций чата WebLLM с моделями f32 и f16 Llama2 7B. — Демонстрации чата WebLLM с моделями Llama2 7B `f32` (слева) и `f16` (справа).

Не все графические процессоры поддерживают 16-битные значения с плавающей точкой. Когда функция "shader-f16" доступна в GPUAdapter , вы теперь можете запросить GPUDevice с этой функцией и создать модуль шейдера WGSL, который использует преимущества типа с плавающей точкой половинной точности f16 . Этот тип допустим для использования в модуле шейдера WGSL, только если вы включите расширение WGSL f16 с помощью enable f16; . В противном случае createShaderModule() сгенерирует ошибку проверки. См. следующий минимальный пример и выдайте dawn:1510 .

const adapter = await navigator.gpu.requestAdapter();
if (!adapter.features.has("shader-f16")) {
  throw new Error("16-bit floating-point value support is not available");
}
// Explicitly request 16-bit floating-point value support.
const device = await adapter.requestDevice({
  requiredFeatures: ["shader-f16"],
});

const code = `
  enable f16;

  @compute @workgroup_size(1)
  fn main() {
    const c : vec3h = vec3<f16>(1.0h, 2.0h, 3.0h);
  }
`;

const shaderModule = device.createShaderModule({ code });
// Create a compute pipeline with this shader module
// and run the shader on the GPU...

В коде модуля шейдера WGSL возможна поддержка типов f16 и f32 с alias в зависимости от поддержки функции "shader-f16" как показано в следующем фрагменте.

const adapter = await navigator.gpu.requestAdapter();
const hasShaderF16 = adapter.features.has("shader-f16");

const device = await adapter.requestDevice({
  requiredFeatures: hasShaderF16 ? ["shader-f16"] : [],
});

const header = hasShaderF16
  ? `enable f16;
     alias min16float = f16;`
  : `alias min16float = f32;`;

const code = `
  ${header}

  @compute @workgroup_size(1)
  fn main() {
    const c = vec3<min16float>(1.0, 2.0, 3.0);
  }
`;

Раздвиньте границы

Максимальное количество байтов, необходимое для хранения одного образца (пикселя или субпикселя) выходных данных конвейера рендеринга по всем цветовым вложениям, по умолчанию составляет 32 байта. Теперь можно запросить до 64, используя ограничение maxColorAttachmentBytesPerSample . См. следующий пример и выдайте dawn:2036 .

const adapter = await navigator.gpu.requestAdapter();

if (adapter.limits.maxColorAttachmentBytesPerSample < 64) {
  // When the desired limit isn't supported, take action to either fall back to
  // a code path that does not require the higher limit or notify the user that
  // their device does not meet minimum requirements.
}

// Request highest limit of max color attachments bytes per sample.
const device = await adapter.requestDevice({
  requiredLimits: { maxColorAttachmentBytesPerSample: 64 },
});

Лимиты maxInterStageShaderVariables и maxInterStageShaderComponents , используемые для межэтапной коммуникации, были увеличены на всех платформах. Подробности см. в issue dawn:1448 .

Для каждого этапа шейдера максимальное количество записей макета группы привязки по всему макету конвейера, которые являются буферами хранения, по умолчанию равно 8. Теперь можно запросить до 10, используя ограничение maxStorageBuffersPerShaderStage . См. issue dawn:2159 .

Добавлен новый предел maxBindGroupsPlusVertexBuffers . Он состоит из максимального количества одновременно используемых слотов групп связывания и буферов вершин, включая все пустые слоты ниже самого высокого индекса. Его значение по умолчанию — 24. См. issue dawn:1849 .

Изменения в состоянии трафарета глубины

Для улучшения опыта разработчика атрибуты depthWriteEnabled и depthCompare состояния трафарета глубины больше не всегда требуются: depthWriteEnabled требуется только для форматов с глубиной, а depthCompare не требуется для форматов с глубиной, если не используется вообще. См. issue dawn:2132 .

Обновления информации об адаптере

Нестандартные атрибуты type и информации адаптера backend теперь доступны при вызове requestAdapterInfo() , когда пользователь включил флаг "WebGPU Developer Features" на chrome://flags/#enable-webgpu-developer-features . type может быть "discrete GPU", "integrated GPU", "CPU" или "unknown". backend может быть "WebGPU", "D3D11", "D3D12", "metal", "vulkan", "openGL", "openGLES" или "null". См. issue dawn:2112 и issue dawn:2107 .

Скриншот https://webgpureport.org с бэкэндом и информацией об адаптере. — Информация о бэкэнде и типе адаптера отображается на https://webgpureport.org .

Необязательный параметр списка unmaskHints в requestAdapterInfo() был удален. См. issue dawn:1427 .

Квантование запросов временных меток

Запросы меток времени позволяют приложениям измерять время выполнения команд GPU с точностью до наносекунды. Однако спецификация WebGPU делает запросы меток времени необязательными из-за проблем с атаками по времени . Команда Chrome считает, что квантование запросов меток времени обеспечивает хороший компромисс между точностью и безопасностью, уменьшая разрешение до 100 микросекунд. См. issue dawn:1800 .

В Chrome пользователи могут отключить квантование временных меток, включив флаг "WebGPU Developer Features" на chrome://flags/#enable-webgpu-developer-features . Обратите внимание, что этот флаг сам по себе не включает функцию "timestamp-query" . Его реализация все еще экспериментальная и поэтому требует флага "Unsafe WebGPU Support" на chrome://flags/#enable-unsafe-webgpu .

В Dawn добавлен новый переключатель устройств под названием "timestamp_quantization", который включен по умолчанию. Следующий фрагмент показывает, как разрешить экспериментальную функцию "timestamp-query" без квантования временных меток при запросе устройства.

wgpu::DawnTogglesDescriptor deviceTogglesDesc = {};

const char* allowUnsafeApisToggle = "allow_unsafe_apis";
deviceTogglesDesc.enabledToggles = &allowUnsafeApisToggle;
deviceTogglesDesc.enabledToggleCount = 1;

const char* timestampQuantizationToggle = "timestamp_quantization";
deviceTogglesDesc.disabledToggles = &timestampQuantizationToggle;
deviceTogglesDesc.disabledToggleCount = 1;

wgpu::DeviceDescriptor desc = {.nextInChain = &deviceTogglesDesc};

// Request a device with no timestamp quantization.
myAdapter.RequestDevice(&desc, myCallback, myUserData);

Особенности генеральной уборки

Экспериментальная функция "timestamp-query-inside-passes" была переименована в "chromium-experimental-timestamp-query-inside-passes", чтобы дать разработчикам понять, что эта функция является экспериментальной и пока доступна только в браузерах на базе Chromium. См. issue dawn:1193 .

Экспериментальная функция "pipeline-statistics-query", которая была реализована лишь частично, была удалена, поскольку больше не разрабатывается. См. issue chromium:1177506 .

Это охватывает только некоторые из ключевых моментов. Ознакомьтесь с исчерпывающим списком коммитов .