发布时间:2024 年 12 月 12 日;最后更新时间:2025 年 5 月 20 日
借助内置 AI API,您的 Web 应用可以执行 AI 赋能的任务,而无需部署或管理自己的 AI 模型。
要求
我们正努力在浏览器之间实现这些 API 的标准化。
模型
Prompt API、Summarizer API、Writer API 和 Rewriter API 会下载一个大型语言模型,该模型旨在在桌面设备和笔记本电脑上本地运行。这些 API 无法在移动设备上使用。在使用这些 API 之前,请先确认您已了解 Google 的《生成式 AI 使用限制政策》。
目前,Summarizer API、Writer API 和 Rewriter API 仅支持文本到文本模态。提示 API 具有多模态功能,可供早期预览版计划参与者进行本地原型设计。
硬件
开发者和在 Chrome 中使用这些 API 运行功能的用户必须满足以下要求。其他浏览器可能有不同的运行要求。
语言检测器和翻译器 API 可在桌面版 Chrome 中使用。这些 API 不适用于移动设备。当满足以下条件时,Prompt API、Summarizer API、Writer API 和 Rewriter API 可在 Chrome 中正常运行:
- 操作系统:Windows 10 或 11;macOS 13 及更高版本(Ventura 及更高版本);或 Linux。使用 Gemini Nano 的 API 尚不支持 Android 版 Chrome、iOS 版 Chrome 和 ChromeOS 版 Chrome。
- 存储空间:包含 Chrome 个人资料的卷上至少有 22 GB 的可用空间。
- GPU:VRAM 严格大于 4 GB。
- 网络:无限流量或不按流量计费的网络连接。
Gemini Nano 的确切大小可能会略有不同。如需了解当前大小,请访问 chrome://on-device-internals
并前往模型状态。
打开列出的文件路径,以确定模型大小。
开始构建
在不同的开发阶段,有多种内置 AI API 可供使用。有些功能已在 Chrome 稳定版中推出,有些功能仅面向源试用参与者提供,还有些功能仅面向抢先预览计划参与者提供。
每个 API 都有一组自己的说明,用于开始使用并下载模型,以便在本地原型设计和生产环境中进行源试用。
- Translator API
- Language Detector API
- Summarizer API
- Prompt API
- Chrome 扩展程序中的 Prompt API 提供了具体说明,可帮助扩展程序开发者使用 Prompt API 进行构建。
- Writer API 和 Rewriter API
- 用于 Chrome 扩展程序的 Prompt API
- 适用于 Web 的 Prompt API(仅限 EPP)
在构建 Chrome 扩展程序时,可以使用所有这些 API。
在 localhost 上使用 API
所有这些 API 都可在 Chrome 中的 localhost
上使用。
- 前往
chrome://flags/#prompt-api-for-gemini-nano
。 - 选择已启用。
- 点击重新启动或重启 Chrome。
如需确认 Gemini Nano 已下载并按预期运行,请打开开发者工具,然后在控制台中输入 await LanguageModel.availability();
。此时应返回 available
。
排查 localhost 问题
如果模型无法按预期工作,请按以下步骤操作:
- 重新启动 Chrome。
- 前往
chrome://components
。 - 确认是否存在设备端模型优化指南。这意味着 Gemini Nano 可用或正在下载。
- 如果未列出任何版本号,请点击检查更新以强制下载。
- 打开开发者工具,然后在控制台中输入
LanguageModel.availability();
。此命令应返回available
。
如有必要,请等待一段时间,然后重复上述步骤。
标准流程
我们正在努力标准化这些 API,以便它们能在所有浏览器中正常运行。这意味着,我们已向 Web 平台社区提议了这些 API,并将其移至 W3C Web Incubator Community Group 以供进一步讨论。
我们正在就每个 API 向 W3C、Mozilla 和 WebKit 征求反馈意见。
如需详细了解每种 API 的此流程,请参阅相应文档。
互动和分享反馈
如果您试用了内置 AI 并有反馈意见,欢迎随时告诉我们。
- 探索所有内置 AI API。
- 加入抢先预览计划,抢先了解新 API 并加入我们的邮寄名单。
- 如果您对 Chrome 的实现有任何反馈,请提交 Chromium bug。
- 了解网络标准。