AI op het apparaat is het nieuwste aanbod om gebruikers krachtige modellen te bieden, terwijl gevoelige gegevens worden beschermd en de latentie wordt verbeterd.
Op het apparaat kan het werk dat u in de cloud doet niet volledig worden vervangen en gerepliceerd. Servers zijn immers ongelooflijk krachtig en kunnen grote, complexe modellen bevatten en toch snel resultaten leveren. On-device kan echter een aantal fantastische mogelijkheden ontgrendelen naast elke bestaande server-side setup.
- Privacy en beveiliging : Met AI op het apparaat kunt u lokaal met gegevens werken, wat een grote invloed heeft op uw vermogen om met gevoelige gegevens te werken en deze veilig en privé te houden. U kunt AI-functies aanbieden aan gebruikers met end-to-end-codering.
- Grotere beschikbaarheid : AI op het apparaat kan helpen een grotere beschikbaarheid voor uw gebruikers te bereiken. De apparaten van uw gebruikers kunnen een deel van de verwerkingslast op zich nemen in ruil voor meer toegang tot AI-functies. Als uw product een premiumservice biedt, kunt u een gratis laag met AI-functies op het apparaat overwegen om uw klanten een idee te geven van wat de premiumservice biedt.
Op het apparaat is niet altijd de juiste keuze, dus voordat we verder gaan, willen we u herinneren aan enkele praktische tips:
- Ontwerp uw functies met elegante fallbacks en voer benchmarks uit op uw doelapparaten. Niet elk apparaat zal kunnen fungeren als een AI-krachtpatser.
- Bouw voor specifieke gebruiksscenario's . AI op het apparaat werkt het beste voor specifieke gebruikssituaties. De modellen zijn inherent kleiner dan wat doorgaans wordt aangetroffen in AI op de server. Deel uw proces op in gerichte stappen en maak gebruik van voor- en nabewerking, zodat kleinere modellen toch het best mogelijke antwoord kunnen leveren.
- Wees strategisch met betrekking tot downloadvereisten . AI-modellen kunnen groot zijn, wat kan leiden tot een groot gebruik van mobiele data en apparaatopslag. Zorg ervoor dat u een nuttige functie voor uw gebruikers bouwt en dat u een verantwoorde weergave- en cachingstrategie hanteert.
Deel uw feedback
We willen graag horen welke gebruiksscenario's u het meest interesseren en uw feedback over onze aanpak. U kunt feedback delen en een verzoek indienen om deel te nemen aan het vroege preview-programma om te testen met lokale prototypes.
Jouw bijdrage kan ons helpen om van AI een krachtig, maar praktisch hulpmiddel voor iedereen te maken.