クライアントサイド AI を選択するタイミング

Maud Nalpas

Kenji Baheux

Alexandra Klepper

公開日: 2024 年 5 月 14 日

クライアントサイドの AI 推論はデバイス上で実行されるため、既存のサーバーサイドの設定と組み合わせることで非常に強力な機能となります。組み込み AI はクライアントサイド AI の一種で、モデルをブラウザに組み込むことで、センシティブデータを保護し、レイテンシを改善します。

プライバシーとセキュリティ: クライアントサイド AI を使用すると、データをローカルで処理できるため、センシティブデータを安全かつプライベートに保ちながら処理できます。エンドツーエンドの暗号化を使用して、AI 機能をユーザーに提供できます。
可用性の向上: クライアントサイド AI は、ユーザーの可用性を高めるのに役立ちます。ユーザーのデバイスは、AI 機能へのアクセスを増やす代わりに、処理負荷の一部を担うことができます。プロダクトでプレミアムサービスを提供している場合は、クライアントサイド AI 機能を備えた無料プランを検討して、プレミアムサービスの内容をユーザーに体験してもらうことができます。

クライアントサイド AI を実行しても、クラウドで行う作業を完全に置き換えて複製することはできません。サーバーは非常に強力で、結果を迅速に提供できる大規模で複雑なモデルを保持できます。

クライアントサイドが常に適切な選択肢であるとは限りません。先に進む前に、いくつかのおすすめの方法をご紹介します。

グレースフルフォールバックを使用して機能を設計 し、ターゲットデバイスでベンチマークを実行します。すべてのデバイスが AI の強力な機能として動作できるわけではありません。
特定のユースケース向けに構築 します。クライアントサイド AI は、特定のユースケースに最適です。モデルは、サーバーサイド AI で一般的に使用されるものよりも本質的に小さくなります。プロセスをターゲットステップに分割し、前処理と後処理を利用することで、小さなモデルでも可能な限り最適なレスポンスを提供できます。
ダウンロード要件について戦略的に考える 。AI モデルはサイズが大きくなる可能性があるため、モバイルデータとデバイスストレージの使用量が多くなる可能性があります。ユーザーにとって便利な機能を構築し、責任あるサービングとキャッシュ保存の戦略を立てるようにしてください。

フィードバックをお寄せください

皆様のご協力により、AI を誰にとっても強力で実用的なツールにすることができます。