Ga aan de slag met ingebouwde AI

Alexandra Klepper

Gepubliceerd: 12 december 2024

Met ingebouwde AI kan uw webapplicatie AI-aangedreven taken uitvoeren zonder dat u eigen AI-modellen hoeft te implementeren of beheren. Het Chrome AI-team ontwikkelt taakspecifieke webplatform-API's en browserfuncties die AI-modellen in uw browser integreren. We streven ernaar dat deze API's werken wanneer ze worden geïmplementeerd in de browser, op het apparaat van een gebruiker.

Vereisten

Op dit moment kunt u deze API's alleen in Chrome gebruiken, maar we streven ernaar ze in alle browsers te standaardiseren .

Modellen

De Prompt API, Summarizer API, Writer API en Rewriter API downloaden Gemini Nano , die is ontworpen om lokaal op desktop- en laptopcomputers te draaien. Deze API's werken niet op mobiele apparaten.

Vanaf nu ondersteunen deze API's alleen tekst-naar-tekst-modaliteit.

Hardware

De Taaldetectie- en Vertaal-API's werken op desktop- en Android-apparaten in Chrome.

De Prompt API, Summarizer API, Writer API en Rewriter API werken in Chrome als aan de volgende voorwaarden wordt voldaan:

• Besturingssysteem : Windows 10 of 11; macOS 13+ (Ventura en hoger); of Linux. Chrome voor Android, iOS en ChromeOS worden nog niet ondersteund door onze API's die worden ondersteund door Gemini Nano.
• Opslag: minimaal 22 GB op het volume dat uw Chrome-profiel bevat.

Opmerking: hoewel het model veel minder opslagruimte nodig heeft (ongeveer een paar GB), bestaat deze vereiste om ervoor te zorgen dat u over voldoende opslagmarge beschikt. Als de beschikbare opslagruimte na het downloaden daalt tot minder dan 10 GB, wordt het model van uw apparaat verwijderd.

• GPU : Meer dan 4 GB RAM.
• Netwerk : Onbeperkte data of een onbeperkte verbinding.

Sleutelbegrip: een gemeten verbinding is een internetverbinding met beperkte gegevens. Wi-Fi- en ethernetverbindingen hebben doorgaans standaard geen meter, terwijl mobiele verbindingen vaak wel een meter hebben.

Deze vereisten bestaan ​​voor u in uw ontwikkelingsproces en voor uw gebruikers die werken met de functies die u bouwt.

Begin met bouwen

Er zijn verschillende ingebouwde AI API’s beschikbaar in verschillende ontwikkelingsstadia. Sommige zijn beschikbaar voor alle ontwikkelaars in origin-proefversies, terwijl andere alleen beschikbaar zijn voor deelnemers aan het vroege preview-programma .

Elke API heeft zijn eigen set instructies om aan de slag te gaan en het model te downloaden, zowel voor lokale prototyping als in productieomgevingen met de origin-trials.

• Vertaler-API
• Taaldetector-API
• Writer- en Rewriter-API's (alleen EPP)
• Samenvattende API
• Prompt API in Chrome-extensies
• Prompt-API voor internet (alleen EPP)

Hoewel de Prompt API alleen lokaal en in Chrome-extensies beschikbaar is, werken de andere API's voor websites en Chrome-extensies.

Normen proces

We werken eraan om deze API's te standaardiseren , zodat ze in alle browsers werken. Dit betekent dat we de API's hebben voorgesteld aan de webplatformgemeenschap en ze voor verdere discussie hebben verplaatst naar de W3C Web Incubator Community Group .

We vragen voor elke API feedback van het W3C, Mozilla en WebKit.

Meer informatie over dit proces voor elke API vindt u in de bijbehorende documentatie.

Betrek en deel feedback

Als je de ingebouwde AI uitprobeert en feedback hebt, horen we dat graag.

• Ontdek alle ingebouwde AI API's .
• Sluit u aan bij het vroege preview-programma voor een eerste blik op nieuwe API's en toegang tot onze mailinglijst.
• Als u feedback heeft over de implementatie van Chrome, dient u een Chromium-bug in.
• Meer informatie over webstandaarden .