开始使用内置 AI

Alexandra Klepper

发布时间：2024 年 12 月 12 日

借助内置 AI，您的 Web 应用无需部署或管理自己的 AI 模型，即可执行 AI 赋能的任务。Chrome AI 团队正在开发特定于任务的 Web 平台 API 和浏览器功能，以便在浏览器中集成 AI 模型。我们的目标是，这些 API 在用户设备上的浏览器中实现后能够正常运行。

要求

目前，您只能在 Chrome 中使用这些 API，但我们的目标是在各浏览器中对其进行标准化。

模型

Prompt API、Summarizer API、Writer API 和 Rewriter API 会下载 Gemini Nano，该工具旨在在桌面设备和笔记本电脑上本地运行。这些 API 不适用于移动设备。

目前，这些 API 仅支持文本到文本模式。

硬件

语言检测 API 和翻译 API 适用于桌面设备和 Android 设备上的 Chrome。

满足以下条件时，Prompt API、Summarizer API、Writer API 和 Rewriter API 可在 Chrome 中正常运行：

  • 操作系统：Windows 10 或 11；macOS 13 或更高版本（Ventura 及更高版本）；或 Linux。由 Gemini Nano 支持的 API 尚不支持 Android 版、iOS 版和 ChromeOS 版 Chrome。
  • 存储空间：包含 Chrome 个人资料的卷至少有 22 GB。
  • GPU：RAM 超过 4 GB。
  • 网络：无限流量或不计流量的连接。

这些要求适用于您在开发过程中以及使用您构建的功能的用户。

开始构建

在开发的不同阶段，有多个内置 AI API 可供使用。其中一些功能面向原始试用中的所有开发者提供，而另一些功能仅面向抢先体验计划参与者提供。

每个 API 都有自己的一组说明，用于开始使用和下载模型，无论是在本地进行原型设计，还是在生产环境中使用原始试用版。

Prompt API 仅在本地和 Chrome 扩展程序中可用，而其他 API 适用于网站和 Chrome 扩展程序。

在 localhost 上使用 API

所有这些 API 均可在 Chrome 的 localhost 中使用。请按照以下步骤操作：

  1. 前往chrome://flags/#prompt-api-for-gemini-nano。
  2. 选择已启用。
  3. 点击重新启动或重启 Chrome。

如需确认 Gemini Nano 已下载并按预期运行，请打开开发者工具，然后在控制台中输入 (await ai.assistant.capabilities()).available;。此时应返回 readily。

排查 localhost 问题

如果 Gemini Nano 无法正常运行，请按以下步骤操作：

  1. 重启 Chrome。
  2. 前往chrome://components。
  3. 确认设备型号优化指南存在。这表示 Gemini Nano 已可供使用或正在下载。
    • 如果未列出版本号，请点击检查更新以强制下载。
  4. 打开开发者工具，然后在控制台中输入 (await ai.assistant.capabilities()).available;。此时应返回 readily。

如有必要，请等待一段时间，然后重复上述步骤。

标准流程

我们正在努力标准化这些 API，以便它们在所有浏览器中都能正常运行。这意味着，我们已向 Web 平台社区提交这些 API，并将其移至 W3C Web Incubator 社区群组进行进一步讨论。

我们正在请求 W3C、Mozilla 和 WebKit 针对每个 API 提供反馈。

如需详细了解每种 API 的此流程，请参阅相应文档。

互动和分享反馈

如果您试用内置 AI 功能并有反馈，我们非常乐意听取。