为何使用设备端 AI

Maud Nalpas
Maud Nalpas
Kenji Baheux
Kenji Baheux
Alexandra Klepper
Alexandra Klepper

设备端 AI 是最新产品,可为用户提供功能强大的模型,同时保护敏感数据并缩短延迟时间。

设备端无法完全替换和复制您在云端所做的工作。 毕竟,服务器非常强大,能够承载大型复杂的模型,并且仍然能够快速交付结果。不过,除了任何现有的服务器端设置,设备端还可以带来一些不可思议的可能性。

  • 隐私和安全:设备端 AI 可让您在本地处理数据,这极大地影响了您处理敏感数据以及确保敏感数据的安全性。您可以通过端到端加密为用户提供 AI 功能。
  • 更高的可用性:设备端 AI 有助于为用户提供更高的可用性。用户的设备可以承担一些处理负载,以换取对 AI 功能的更多访问权限。如果您的产品提供高级服务,您可以考虑提供具有设备端 AI 功能的免费层级,帮助客户一览高级服务提供的功能。

设备端并不总是正确的选择,因此在继续深入讨论之前,我们想提醒您一些最佳实践:

  1. 使用优雅的回退机制来设计功能,并在目标设备上运行基准测试。并非所有设备都能充当 AI 技术的强劲引擎。
  2. 针对特定用例构建。设备端 AI 最适合特定用例。这些模型本身小于服务器端 AI 中的常见模型。将您的流程分解为多个目标步骤并利用预处理和后处理,使较小的模型仍然可以提供尽可能最佳的响应。
  3. 策略性地满足下载要求。AI 模型可能很大,这可能会导致大量移动流量和设备存储空间的使用。请确保您为用户构建的功能非常有用,并且具有负责任的服务和缓存策略。

欢迎分享反馈

我们想要了解您对哪些用例最感兴趣,以及您对我们方法的反馈。您可以分享反馈并申请加入早期预览版计划,以便使用本地原型进行测试。

您的贡献可以帮助我们将 AI 打造成一个强大且实用的工具,惠及每个人。