Ga aan de slag met ingebouwde AI

Alexandra Klepper

Gepubliceerd: 12 december 2024, Laatst bijgewerkt: 20 mei 2025

Met ingebouwde AI-API's kan uw webapplicatie AI-gestuurde taken uitvoeren zonder dat u zelf AI-modellen hoeft te implementeren of beheren. We werken eraan om deze API's te standaardiseren voor alle browsers .

Tip: Als je nog niet bekend bent met AI op het web, raden we je aan onze woordenlijst en concepten over web-AI te lezen.

Vereisten

Om de ingebouwde AI te gebruiken, zijn er model- en hardwarevereisten.

Modellen

Belangrijk : Gemini Nano is een generatief AI-model. Voordat u API's gebruikt die Gemini Nano inzetten, dient u de handleiding 'People + AI' te raadplegen voor best practices, methoden en voorbeelden voor het ontwerpen met AI.

De Translator- en Language Detector-API's gebruiken expertmodellen. Alle andere API's gebruiken een taalmodel dat is ontworpen om lokaal op desktops en laptops te draaien.

De Summarizer API, Writer API, Rewriter API en Proofreader API ondersteunen alleen tekst-naar-tekst-conversie. De Prompt API heeft multimodale mogelijkheden .

Gemini Nano in chroom

Chrome maakt gebruik van de Gemini Nano-taalmodellen. Gemini Nano is niet beschikbaar op mobiele apparaten.

Vanaf Chrome 140 ondersteunt Gemini Nano Engels, Spaans en Japans voor zowel tekstinvoer als -uitvoer.

Voordat je de ingebouwde AI-API's gebruikt, ga je akkoord met het beleid van Google inzake verboden gebruik van generatieve AI .

Hardware

De volgende vereisten gelden voor ontwikkelaars en gebruikers die functies gebruiken die deze API's in Chrome inzetten. Andere browsers kunnen andere vereisten hebben.

De API's voor taaldetectie en -vertaling werken in Chrome op desktops. Deze API's werken niet op mobiele apparaten.

De Prompt API , Summarizer API , Writer API , Rewriter API en Proofreader API werken in Chrome wanneer aan de volgende voorwaarden wordt voldaan:

• Besturingssysteem : Windows 10 of 11; macOS 13+ (Ventura en nieuwer); Linux; of ChromeOS (vanaf platform 16389.0.0 en nieuwer) op Chromebook Plus- apparaten. Chrome voor Android, iOS en ChromeOS op niet-Chromebook Plus-apparaten wordt nog niet ondersteund door de API's die gebruikmaken van Gemini Nano.
• Opslag : Minimaal 22 GB vrije ruimte op het volume waarop uw Chrome-profiel staat.
  De ingebouwde modellen zouden aanzienlijk kleiner moeten zijn. De exacte afmetingen kunnen na updates iets afwijken.
• GPU of CPU : Ingebouwde modellen kunnen met een GPU of een CPU werken.
  • GPU : Strikt meer dan 4 GB VRAM.
  • CPU : 16 GB RAM of meer en 4 processorkernen of meer.
• Netwerk : Onbeperkte data of een verbinding zonder datalimiet.
  Kernbegrip : Een verbinding met datalimiet is een internetverbinding met een datalimiet. Wi-Fi- en ethernetverbindingen zijn standaard meestal onbeperkt, terwijl mobiele verbindingen vaak wel een datalimiet hebben.
  Let op : een netwerkverbinding is alleen vereist voor het eerste downloaden van het model. Voor later gebruik van het model is geen netwerkverbinding nodig. Er worden geen gegevens naar Google of derden verzonden tijdens het gebruik van het model.

De exacte afmetingen van de Gemini Nano kunnen variëren, afhankelijk van de browserupdate van het model. Ga naar chrome://on-device-internals om de huidige afmetingen te achterhalen.

Let op : als de beschikbare opslagruimte na het downloaden minder dan 10 GB bedraagt, wordt het model van uw apparaat verwijderd. Het model wordt opnieuw gedownload zodra aan de vereisten is voldaan.

Beginnen met bouwen

Er zijn verschillende ingebouwde AI-API's beschikbaar in verschillende ontwikkelingsstadia. Sommige zijn opgenomen in de stabiele versie van Chrome, andere zijn beschikbaar voor deelnemers aan Origin-proeven en weer andere zijn alleen beschikbaar voor deelnemers aan het Early Preview Program .

Elke API heeft zijn eigen instructies voor het starten en downloaden van het model, zowel voor lokale prototyping als in productieomgevingen met de originele testversie.

• Vertaler-API
• Taaldetector-API
• Samenvattings-API
• Writer API en Rewriter API
• API voor proeflezers
• Prompt API

Al deze API's kunnen worden gebruikt bij het ontwikkelen van Chrome-extensies.

Let op: als de API beschikbaar is in een origin trial, moet u uw extensie registreren voor de origin trial .

Model downloaden

Zowel API's als modellen zijn ingebouwd in Chrome. De eerste keer dat een gebruiker met deze API's interacteert, moet het model naar de browser worden gedownload.

Om te bepalen of een API bruikbaar en gereed is, roept u de asynchrone functie availability() aan. Deze retourneert een promise met een van de volgende waarden:

• "unavailable" : Het apparaat van de gebruiker of de gevraagde sessieopties worden niet ondersteund. Het apparaat heeft mogelijk onvoldoende stroom of schijfruimte.
• "downloadable" : Er zijn extra downloads nodig om een ​​sessie te creëren, waaronder mogelijk een expertmodel, een taalmodel of fine-tuning. Gebruikersactivering kan vereist zijn om create() aan te roepen.
• "downloading" : Downloads zijn bezig en moeten voltooid zijn voordat u een sessie kunt gebruiken.
• "available" : Je kunt direct een sessie aanmaken.

Sommige API's vereisen extra opties bij het opvragen van beschikbaarheid. De Prompt API vereist bijvoorbeeld dat taalondersteuning wordt opgegeven:

// Makes sure the model is available for English and Japanese.
await LanguageModel.availability({ languages: ["en", "ja"] });

Gebruikersactivering

Als het apparaat ingebouwde AI-API's ondersteunt, maar het model nog niet is gedownload, moet de gebruiker op een zinvolle manier met uw pagina interageren voordat uw applicatie een sessie kan starten met create() .

Gebruik de eigenschap UserActivation.isActive om te bevestigen dat een gebruiker direct interactie heeft gehad met de pagina sinds het laden ervan is voltooid. Dit kan een tik, klik, toetsaanslag, mousedown of andere persistente activeringsgebeurtenissen omvatten.

// Check for user activation.
if (navigator.userActivation.isActive) {
  // Create an instance of a built-in API
}

Met de Summarizer API kun je gebruikers bijvoorbeeld vragen om op een knop met de tekst "Samenvatten" te klikken om Summarizer.create() te activeren, of je kunt de samenvatter aanmaken zodra een gebruiker begint te typen, een keydown -gebeurtenis.

Gebruik API's op localhost

Alle API's zijn beschikbaar op localhost in Chrome.

1. Ga naar chrome://flags/#optimization-guide-on-device-model .
2. Selecteer ' Ingeschakeld' .
3. Klik op Opnieuw opstarten of Chrome opnieuw starten.

Voor API's die Gemini Nano gebruiken, moet u ook chrome://flags/#prompt-api-for-gemini-nano instellen op Enabled of Enabled multilingual . U kunt in de DevTools Console controleren of het model is gedownload en naar behoren werkt. Voer in de console await LanguageModel.availability(); uit.

Problemen met localhost oplossen

Als de vlaggen niet verschijnen in chrome://flags , zorg er dan voor dat je de nieuwste versie van Chrome hebt gedownload.

Als het model niet naar behoren werkt, volg dan deze stappen:

1. Chrome opnieuw opstarten.
2. Ga naar chrome://on-device-internals .
3. Selecteer het tabblad 'Modelstatus' en controleer of er geen fouten zijn.
4. Open de ontwikkelaarstools en typ LanguageModel.availability(); in de console. Dit zou available moeten retourneren.

Wacht indien nodig even en herhaal deze stappen.

Standaardisatieproces

We werken aan de standaardisatie van deze API's , zodat ze in alle browsers werken. Dit betekent dat we de API's hebben voorgesteld aan de webplatformgemeenschap en ze hebben doorgestuurd naar de W3C Web Incubator Community Group voor verdere discussie.

We vragen feedback van het W3C, Mozilla en WebKit voor elke API.

Betrek de deelnemers en deel je feedback.

Als je de ingebouwde AI uitprobeert en feedback hebt, horen we dat graag.

• Ontdek alle ingebouwde AI API's .
• Word lid van het Early Preview Program voor een vroege blik op nieuwe API's en toegang tot onze mailinglijst.
• Als je feedback hebt over de implementatie in Chrome, meld dit dan via een Chromium-bugrapport .
• Leer meer over webstandaarden .