Dipublikasikan: 12 Desember 2024, Terakhir diperbarui: 20 Mei 2025
Dengan API AI bawaan, aplikasi web Anda dapat melakukan tugas yang didukung AI tanpa perlu men-deploy atau mengelola model AI-nya sendiri. Kami berupaya menstandarkan API ini di seluruh browser.
Persyaratan
Untuk menggunakan AI bawaan, ada persyaratan model dan hardware.
Model
Translator API dan Language Detector API menggunakan model ahli. Semua API lainnya menggunakan model bahasa, yang dirancang untuk berjalan secara lokal di desktop dan laptop.
Summarizer API, Writer API, Rewriter API, dan Proofreader API, hanya mendukung modalitas teks ke teks. Prompt API memiliki kemampuan multimodal.
Model di Chrome
Chrome menggunakan model bahasa dasar dan ahli. Model ini tidak tersedia di perangkat seluler.
Mulai Chrome 149, model ini mendukung bahasa Inggris, Spanyol, Jepang, Jerman, dan Prancis untuk teks input dan output.
Hardware
Persyaratan berikut berlaku untuk developer dan pengguna yang mengoperasikan fitur menggunakan API ini di Chrome. Browser lain mungkin memiliki persyaratan pengoperasian yang berbeda.
Language Detector dan Translator API berfungsi di Chrome di desktop. API ini tidak berfungsi di perangkat seluler.
The Prompt API, Summarizer API, Writer API, Rewriter API, dan Proofreader API berfungsi di Chrome jika kondisi berikut terpenuhi:
- Sistem operasi: Windows 10 atau 11; macOS 13+ (Ventura dan yang lebih baru); Linux; atau ChromeOS (dari Platform 16389.0.0 dan yang lebih baru) di Chromebook Plus perangkat. Chrome untuk Android, iOS, dan ChromeOS di perangkat non-Chromebook Plus belum didukung oleh API yang menggunakan model dasar.
- Penyimpanan: Ruang kosong minimal 22 GB di volume yang berisi profil Chrome Anda.
- GPU atau CPU: Model bawaan dapat berjalan dengan GPU atau CPU.
- GPU: Lebih dari 4 GB VRAM.
- CPU: RAM 16 GB atau lebih dan 4 core CPU atau lebih.
- Catatan: Prompt API dengan input audio memerlukan GPU.
- Jaringan: Data tidak terbatas atau koneksi tidak berkuota.
Ukuran pasti Gemini Nano dapat bervariasi saat browser mengupdate model. Untuk menentukan ukuran saat ini, buka chrome://on-device-internals.
Mulai membuat aplikasi
Ada beberapa API AI bawaan yang tersedia pada berbagai tahap pengembangan. Beberapa API ada di Chrome versi stabil, beberapa tersedia untuk peserta uji coba origin, dan yang lainnya hanya tersedia untuk peserta Program Pratinjau Awal.
Setiap API memiliki kumpulan petunjuknya sendiri untuk memulai dan mendownload model, baik untuk pembuatan prototipe lokal maupun di lingkungan produksi dengan uji coba origin.
- Translator API
- Language Detector API
- Summarizer API
- Writer API dan Rewriter API
- Proofreader API
- Prompt API
Semua API ini dapat digunakan saat membuat Ekstensi Chrome.
Download model
API dibuat di Chrome, seperti model. Saat pengguna berinteraksi dengan API ini untuk pertama kalinya, model harus didownload ke browser.
Untuk menentukan apakah API dapat digunakan dan siap, panggil fungsi availability() asinkron, yang menampilkan promise dengan salah satu nilai berikut:
"unavailable": Perangkat pengguna atau opsi sesi yang diminta tidak didukung. Perangkat mungkin memiliki daya atau ruang disk yang tidak mencukupi."downloadable": Download tambahan diperlukan untuk membuat sesi, yang mungkin mencakup model ahli, model bahasa, atau penyetelan. Aktivasi pengguna mungkin diperlukan untuk memanggilcreate()."downloading": Download sedang berlangsung dan harus selesai sebelum Anda dapat menggunakan sesi."available": Anda dapat membuat sesi secara langsung.
Beberapa API memerlukan opsi tambahan saat memanggil ketersediaan. Misalnya, Prompt API mengharuskan Anda mendeklarasikan dukungan bahasa:
// Makes sure the model is available for English and Japanese input text,
// supports image input, and can generate English output.
await LanguageModel.availability({
expectedInputs: [{type: "text", languages: ["en", "ja"]}, {type: "image"}],
expectedOutputs: [{type: "text", languages: ["en"]}],
});
Aktivasi pengguna
Jika perangkat dapat mendukung API AI bawaan, tetapi model belum
didownload (yaitu, saat memanggil availability() menampilkan "downloadable" atau
"downloading"), pengguna harus berinteraksi dengan halaman Anda secara bermakna agar
aplikasi Anda dapat memulai sesi dengan create().
Gunakan UserActivation.isActive
properti untuk mengonfirmasi bahwa pengguna telah berinteraksi langsung dengan halaman sejak halaman
selesai dimuat. Hal ini dapat mencakup ketukan, klik, penekanan tombol, mousedown, atau
peristiwa aktivasi tetap lainnya.
// Check for user activation.
if (navigator.userActivation.isActive) {
// Create an instance of a built-in API
}
Misalnya, dengan Summarizer API, Anda dapat
meminta pengguna berinteraksi dengan tombol yang bertuliskan "Ringkas" untuk mengaktifkan
Summarizer.create(), atau Anda dapat membuat perangkum setelah pengguna mulai
mengetik, peristiwa keydown.
Menggunakan API di localhost
Semua API tersedia di localhost di Chrome.
- Buka
chrome://flags/#optimization-guide-on-device-model. - Pilih Enabled.
- Klik Relaunch atau mulai ulang Chrome.
Untuk API yang menggunakan Gemini Nano, Anda juga harus menetapkan chrome://flags/#prompt-api-for-gemini-nano ke Enabled atau Enabled multilingual. Anda dapat mengonfirmasi bahwa model telah didownload dan berfungsi
sebagaimana mestinya di Konsol DevTools.
Jalankan await LanguageModel.availability(); di konsol.
Memecahkan masalah localhost
Jika flag tidak muncul di chrome://flags, pastikan Anda telah mendownload
the Chrome versi terbaru.
Jika model tidak berfungsi seperti yang diharapkan, ikuti langkah-langkah berikut:
- Mulai ulang Chrome.
- Buka
chrome://on-device-internals. - Pilih tab Model Status dan pastikan tidak ada error.
- Buka DevTools dan ketik
LanguageModel.availability();ke dalam konsol. Tindakan ini akan menampilkanavailable.
Jika perlu, tunggu beberapa saat dan ulangi langkah-langkah ini.
Proses standar
Kami berupaya menstandarkan API ini, sehingga API tersebut berfungsi di semua browser. Artinya, kami telah mengusulkan API ke komunitas platform web, dan memindahkannya ke W3C Web Incubator Community Group untuk diskusi lebih lanjut.
Kami meminta masukan dari W3C, Mozilla, dan WebKit untuk setiap API.
Berinteraksi dan berbagi masukan
Jika Anda mencoba AI bawaan dan memiliki masukan, kami ingin mendengarnya.
- Temukan semua API AI bawaan.
- Bergabunglah dengan Program Pratinjau Awal untuk melihat API baru lebih awal dan mendapatkan akses ke milis kami.
- Jika Anda memiliki masukan tentang penerapan Chrome, laporkan bug Chromium.
- Pelajari tentang standar web.