Maud Nalpas
Kenji Baheux
Alexandra Klepper
公開日: 2024 年 5 月 14 日
クライアントサイドの AI 推論はデバイス上で行われるため、既存のサーバーサイド設定と組み合わせることで非常に強力な機能を実現できます。組み込み AI は、モデルをブラウザに配置し、機密データを保護してレイテンシを改善するクライアントサイド AI の一種です。
- プライバシーとセキュリティ: クライアントサイド AI ではデータをローカルで処理できるため、機密データを安全に非公開に保ちながら処理できるようになります。エンドツーエンドの暗号化を有効にしているユーザーに AI 機能を提供できます。
- 可用性の向上: クライアントサイド AI により、ユーザーに対する可用性を高めることができます。ユーザーのデバイスは、AI 機能へのアクセスを増やす代わりに、処理負荷の一部を負担できます。プロダクトでプレミアム サービスを提供している場合は、クライアントサイドの AI 機能を含む無料の階層を検討し、プレミアム サービスが提供する内容をお客様に垣間見てもらうことができます。
クライアントサイドの AI を実行しても、クラウドで行う作業を完全に置き換えて複製することはできません。サーバーは非常に強力で、大規模で複雑なモデルを保持し、迅速な結果を提供できます。
クライアントサイドが最適な選択肢であるとは限りません。そのため、先に進む前に、いくつかのベスト プラクティスをご紹介します。
- グレースフル フォールバックを使用して機能を設計し、対象デバイスでベンチマークを実行します。すべてのデバイスが AI の強力なハブとして機能できるわけではありません。
- 特定のユースケースに合わせて構築する。クライアントサイド AI は、特定のユースケースに最適です。これらのモデルは、サーバーサイド AI で一般的に見られるモデルよりも本質的に小さく、プロセスをターゲット ステップに分割し、前処理と後処理を利用することで、小型モデルでも可能な限り最適なレスポンスを提供できます。
- ダウンロード要件について戦略的に考える。AI モデルはサイズが大きく、モバイルデータとデバイスのストレージの使用量が増加する可能性があります。ユーザーにとって有用な機能を構築し、責任あるサービングとキャッシュ戦略を策定してください。
フィードバックをお寄せください
お客様が最も関心をお持ちのユースケースと、Google のアプローチに関するフィードバックをお聞かせください。フィードバックを共有し、早期プレビュー プログラムへの参加をリクエストして、ローカル プロトタイプでテストできます。
皆様からのご協力は、すべての人にとって強力で実用的な AI ツールの開発に役立てられます。