با هوش مصنوعی داخلی شروع کنید

الکساندرا کلپر

تاریخ انتشار: 12 دسامبر 2024

با هوش مصنوعی داخلی ، برنامه وب شما می تواند وظایف مبتنی بر هوش مصنوعی را بدون نیاز به استقرار یا مدیریت مدل های هوش مصنوعی خود انجام دهد. تیم Chrome AI در حال توسعه APIهای پلتفرم وب خاص و ویژگی های مرورگر است که مدل های هوش مصنوعی را در مرورگر شما یکپارچه می کند. هدف ما این است که این APIها هنگام پیاده سازی در مرورگر، روی دستگاه کاربر کار کنند.

الزامات

در حال حاضر، فقط می‌توانید از این APIها در Chrome استفاده کنید، اما هدف ما استانداردسازی آنها در مرورگرها است.

مدل ها

Prompt API، Summarizer API، Writer API، و Rewriter API Gemini Nano را دانلود می‌کنند که برای اجرا به صورت محلی در رایانه‌های رومیزی و لپ‌تاپ طراحی شده است. این APIها روی دستگاه های تلفن همراه کار نمی کنند.

در حال حاضر، این APIها فقط از حالت متن به متن پشتیبانی می کنند.

سخت افزار

APIهای تشخیص زبان و ترجمه روی دستگاه‌های دسک‌تاپ و Android در Chrome کار می‌کنند.

Prompt API، Summarizer API، Writer API، و Rewriter API در Chrome کار می‌کنند که شرایط زیر رعایت شود:

  • سیستم عامل : ویندوز 10 یا 11؛ macOS 13+ (ونتورا و به بعد)؛ یا لینوکس Chrome for Android، iOS و ChromeOS هنوز توسط APIهای ما که توسط Gemini Nano پشتیبانی می‌شوند، پشتیبانی نمی‌شوند.
  • فضای ذخیره سازی: حداقل 22 گیگابایت در حجمی که نمایه کروم شما را در خود دارد.
  • پردازنده گرافیکی : بیش از 4 گیگابایت رم.
  • شبکه : داده های نامحدود یا اتصال نامحدود.

این الزامات برای شما در فرآیند توسعه و کاربرانی که با ویژگی هایی که می سازید کار می کنند وجود دارد.

شروع به ساختن کنید

چندین API داخلی در مراحل مختلف توسعه وجود دارد. برخی از آنها در آزمایش‌های اولیه برای همه توسعه‌دهندگان در دسترس هستند، در حالی که برخی دیگر فقط برای شرکت‌کنندگان برنامه پیش‌نمایش اولیه در دسترس هستند.

هر API مجموعه ای از دستورالعمل های خود را برای شروع و دانلود مدل دارد، هم برای نمونه سازی محلی و هم در محیط های تولید با آزمایش های اولیه.

در حالی که Prompt API فقط به صورت محلی و در برنامه‌های افزودنی Chrome در دسترس است، سایر APIها برای وب‌سایت‌ها و برنامه‌های افزودنی Chrome کار می‌کنند.

از API ها در لوکال هاست استفاده کنید

همه APIها در localhost کروم در دسترس هستند. این مراحل را دنبال کنید تا

  1. Chrome را در یکی از این پلتفرم‌ها باز کنید: Windows، Mac، یا Linux.
  2. به chrome://flags/#optimization-guide-on-device-model بروید.
  3. Enabled BypassPerfRequirement را انتخاب کنید. این کار بررسی های عملکرد و الزامات VRAM را دور می زند، که ممکن است مانع از دانلود Gemini Nano در دستگاه شما شود.
  4. به chrome://flags/#prompt-api-for-gemini-nano بروید.
  5. Enabled را انتخاب کنید.
  6. روی راه اندازی مجدد یا راه اندازی مجدد کروم کلیک کنید.

برای تأیید اینکه Gemini Nano دانلود شده و طبق برنامه کار می‌کند، DevTools را باز کنید و (await ai.assistant.capabilities()).available; به کنسول این باید readily برگردد.

عیب یابی لوکال هاست

اگر Gemini Nano آنطور که انتظار می رود کار نمی کند، مراحل زیر را دنبال کنید:

  1. کروم را مجددا راه اندازی کنید.
  2. به chrome://components بروید.
  3. تأیید کنید که راهنمای بهینه سازی در مدل دستگاه موجود است. این بدان معناست که Gemini Nano یا در دسترس است یا در حال دانلود است.
    • اگر شماره نسخه ای در لیست وجود ندارد، برای دانلود اجباری روی بررسی برای به روز رسانی کلیک کنید.
  4. DevTools را باز کنید و تایپ کنید (await ai.assistant.capabilities()).available; به کنسول این باید readily برگردد.

در صورت لزوم، مدتی صبر کنید و این مراحل را تکرار کنید.

فرآیند استاندارد

ما در حال کار برای استانداردسازی این APIها هستیم تا در همه مرورگرها کار کنند. این بدان معناست که ما APIها را به جامعه پلتفرم‌های وب پیشنهاد کرده‌ایم، و آنها را برای بحث بیشتر به گروه جامعه انکوباتور وب W3C منتقل کرده‌ایم.

ما از W3C، Mozilla و WebKit برای هر API درخواست بازخورد داریم.

شما می توانید در مورد این فرآیند برای هر API در اسناد مربوطه اطلاعات بیشتری کسب کنید.

مشارکت کنید و بازخورد را به اشتراک بگذارید

اگر هوش مصنوعی داخلی را امتحان می کنید و بازخورد دارید، خوشحال می شویم آن را بشنویم.