অন্তর্নির্মিত AI

কেনজি বাহেউক্স
Kenji Baheux
আলেকজান্দ্রা ক্লেপার

প্রকাশিত: 14 মে, 2024, সর্বশেষ আপডেট: নভেম্বর 13, 2024

যখন আমরা ওয়েবে AI মডেলগুলির সাথে বৈশিষ্ট্যগুলি তৈরি করি, তখন আমরা প্রায়শই বড় মডেলগুলির জন্য সার্ভার-সাইড সমাধানগুলির উপর নির্ভর করি। এটি জেনারেটিভ AI এর জন্য বিশেষভাবে সত্য, যেখানে এমনকি ক্ষুদ্রতম মডেলগুলিও মধ্যম ওয়েব পৃষ্ঠার আকারের থেকে প্রায় হাজার গুণ বড়। এটি অন্যান্য AI ব্যবহারের ক্ষেত্রেও সত্য, যেখানে মডেল 10 থেকে 100 মেগাবাইট পর্যন্ত হতে পারে। যেহেতু এই মডেলগুলি ওয়েবসাইট জুড়ে শেয়ার করা হয় না , তাই প্রতিটি সাইটকে পৃষ্ঠা লোডে ডাউনলোড করতে হবে৷ এটি বিকাশকারী এবং ব্যবহারকারীদের জন্য অবাস্তব।

আমরা ওয়েব প্ল্যাটফর্ম এপিআই এবং ব্রাউজার বৈশিষ্ট্যগুলি বিকাশ করছি যা সরাসরি ব্রাউজারে বড় ভাষা মডেল (এলএলএম) সহ AI মডেলগুলিকে একীভূত করার জন্য ডিজাইন করা হয়েছে৷ এর মধ্যে রয়েছে জেমিনি ন্যানো , এলএলএম-এর জেমিনি পরিবারের সবচেয়ে দক্ষ সংস্করণ, যা বেশিরভাগ আধুনিক ডেস্কটপ এবং ল্যাপটপ কম্পিউটারে স্থানীয়ভাবে চালানোর জন্য ডিজাইন করা হয়েছে। অন্তর্নির্মিত AI এর সাথে, আপনার ওয়েবসাইট বা ওয়েব অ্যাপ্লিকেশনটি নিজস্ব AI মডেল স্থাপন বা পরিচালনার প্রয়োজন ছাড়াই AI-চালিত কাজগুলি সম্পাদন করতে পারে।

বিল্ট-ইন AI এর সুবিধাগুলি, আমাদের বাস্তবায়ন পরিকল্পনা এবং আপনি কীভাবে এই প্রযুক্তির সুবিধা নিতে পারেন তা আবিষ্কার করুন৷

একটি প্রারম্ভিক পূর্বরূপ পান

এপিআইগুলিকে আকৃতি দেওয়ার জন্য আমাদের আপনার ইনপুট প্রয়োজন, নিশ্চিত করুন যে তারা আপনার ব্যবহারের ক্ষেত্রে পূরণ করে, এবং মানককরণের জন্য অন্যান্য ব্রাউজার বিক্রেতাদের সাথে আমাদের আলোচনাকে অবহিত করুন।

প্রাথমিক পর্যায়ের বিল্ট-ইন AI ধারনাগুলিতে প্রতিক্রিয়া জানাতে এবং স্থানীয় প্রোটোটাইপিংয়ের মাধ্যমে অগ্রগতি API পরীক্ষা করার সুযোগগুলি আবিষ্কার করতে আমাদের প্রাথমিক পূর্বরূপ প্রোগ্রামে যোগ দিন ।

নতুন API উপলব্ধ হলে বিজ্ঞপ্তি পেতে Chrome AI বিকাশকারী পাবলিক ঘোষণা গোষ্ঠীতে যোগ দিন৷

ওয়েব ডেভেলপারদের জন্য বিল্ট-ইন AI এর সুবিধা

অন্তর্নির্মিত AI সহ, আপনার ব্রাউজার ফাউন্ডেশন এবং বিশেষজ্ঞ মডেল সরবরাহ করে এবং পরিচালনা করে।

আপনার নিজস্ব ক্লায়েন্ট-সাইড এআই তৈরির তুলনায়, বিল্ট-ইন এআই নিম্নলিখিত সুবিধাগুলি অফার করে:

  • স্থাপনের সহজলভ্যতা : ব্রাউজারটি যেমন মডেলগুলি বিতরণ করে, এটি ডিভাইসের সক্ষমতা বিবেচনা করে এবং মডেলের আপডেটগুলি পরিচালনা করে। এর মানে আপনি একটি নেটওয়ার্কের মাধ্যমে বড় মডেল ডাউনলোড বা আপডেট করার জন্য দায়ী নন৷ স্টোরেজ উচ্ছেদ, রানটাইম মেমরি বাজেট, পরিবেশন খরচ এবং অন্যান্য চ্যালেঞ্জের জন্য আপনাকে সমাধান করতে হবে না।
  • হার্ডওয়্যার ত্বরণে অ্যাক্সেস : ব্রাউজারের এআই রানটাইমটি উপলব্ধ হার্ডওয়্যার থেকে সর্বাধিক ব্যবহার করার জন্য অপ্টিমাইজ করা হয়েছে, এটি একটি জিপিইউ, একটি এনপিইউ, বা সিপিইউতে ফিরে আসা। ফলস্বরূপ, আপনার অ্যাপ প্রতিটি ডিভাইসে সেরা পারফরম্যান্স পেতে পারে।

ক্লায়েন্ট-সাইড চালানোর সুবিধা

একটি অন্তর্নির্মিত AI পদ্ধতির সাথে, AI কার্যগুলি ক্লায়েন্ট-সাইড সম্পাদন করা তুচ্ছ হয়ে যায়, যা ফলস্বরূপ নিম্নলিখিত উত্থানগুলি অফার করে:

  • সংবেদনশীল ডেটার স্থানীয় প্রক্রিয়াকরণ : ক্লায়েন্ট-সাইড এআই আপনার গোপনীয়তার গল্প উন্নত করতে পারে। উদাহরণস্বরূপ, আপনি যদি সংবেদনশীল ডেটা নিয়ে কাজ করেন তবে আপনি এন্ড-টু-এন্ড এনক্রিপশন সহ ব্যবহারকারীদের AI বৈশিষ্ট্যগুলি অফার করতে পারেন।
  • চটকদার ব্যবহারকারীর অভিজ্ঞতা : কিছু ক্ষেত্রে, সার্ভারে রাউন্ড ট্রিপ ডিচ করার অর্থ হল আপনি কাছাকাছি-তাত্ক্ষণিক ফলাফল অফার করতে পারেন। ক্লায়েন্ট-সাইড এআই একটি কার্যকর বৈশিষ্ট্য এবং একটি উপ-অনুকূল ব্যবহারকারীর অভিজ্ঞতার মধ্যে পার্থক্য হতে পারে।
  • AI-তে বৃহত্তর অ্যাক্সেস : আপনার ব্যবহারকারীদের ডিভাইসগুলি বৈশিষ্ট্যগুলিতে আরও অ্যাক্সেসের বিনিময়ে প্রক্রিয়াকরণের কিছু ভার বহন করতে পারে। উদাহরণস্বরূপ, আপনি যদি প্রিমিয়াম AI বৈশিষ্ট্যগুলি অফার করেন, আপনি ক্লায়েন্ট-সাইড AI এর সাথে এই বৈশিষ্ট্যগুলির পূর্বরূপ দেখতে পারেন যাতে সম্ভাব্য গ্রাহকরা আপনার অতিরিক্ত খরচ ছাড়াই আপনার পণ্যের সুবিধাগুলি দেখতে পারেন৷ এই হাইব্রিড পদ্ধতি আপনাকে অনুমান খরচ পরিচালনা করতে সাহায্য করতে পারে বিশেষ করে প্রায়শই ব্যবহৃত ব্যবহারকারী প্রবাহের উপর।
  • অফলাইন এআই ব্যবহার : ইন্টারনেট সংযোগ না থাকলেও আপনার ব্যবহারকারীরা এআই বৈশিষ্ট্যগুলি অ্যাক্সেস করতে পারে। এর মানে হল আপনার সাইট এবং ওয়েব অ্যাপগুলি প্রত্যাশিত অফলাইনে বা পরিবর্তনশীল সংযোগের সাথে কাজ করতে পারে।

হাইব্রিড এআই: ক্লায়েন্ট-সাইড এবং সার্ভার-সাইড

যদিও ক্লায়েন্ট-সাইড এআই ব্যবহারের ক্ষেত্রে একটি বড় অ্যারে পরিচালনা করতে পারে, কিছু ক্ষেত্রে সার্ভার-সাইড সমর্থন প্রয়োজন।

সার্ভার-সাইড এআই বড় মডেলের জন্য একটি দুর্দান্ত বিকল্প এবং এটি প্ল্যাটফর্ম এবং ডিভাইসগুলির একটি বিস্তৃত পরিসরকে সমর্থন করতে পারে।

আপনি একটি হাইব্রিড পদ্ধতির উপর নির্ভর করে বিবেচনা করতে পারেন:

  • জটিলতা: নির্দিষ্ট, অ্যাক্সেসযোগ্য ব্যবহারের ক্ষেত্রে ডিভাইসে AI এর সাথে সমর্থন করা সহজ। জটিল ব্যবহারের ক্ষেত্রে, সার্ভার-সাইড বাস্তবায়ন বিবেচনা করুন।
  • স্থিতিস্থাপকতা : ডিফল্টরূপে সার্ভার-সাইড ব্যবহার করুন এবং ডিভাইসটি অফলাইনে বা একটি দাগযুক্ত সংযোগে থাকা অবস্থায় ডিভাইসে ব্যবহার করুন।
  • গ্রেসফুল ফলব্যাক : অন্তর্নির্মিত AI সহ ব্রাউজারগুলি গ্রহণ করতে সময় লাগবে, কিছু মডেল অনুপলব্ধ হতে পারে এবং পুরানো বা কম শক্তিশালী ডিভাইসগুলি সর্বোত্তমভাবে সমস্ত মডেল চালানোর জন্য হার্ডওয়্যার প্রয়োজনীয়তা পূরণ করতে পারে না। সেই ব্যবহারকারীদের জন্য সার্ভার-সাইড এআই অফার করুন।

জেমিনি মডেলের জন্য, আপনি ব্যাকএন্ড ইন্টিগ্রেশন ব্যবহার করতে পারেন ( Python , Go , Node.js , বা REST এর সাথে) অথবা ওয়েবের জন্য নতুন Google AI ক্লায়েন্ট SDK এর সাথে আপনার ওয়েব অ্যাপ্লিকেশনে প্রয়োগ করতে পারেন।

ব্রাউজার আর্কিটেকচার এবং API

Chrome-এ বিল্ট-ইন AI সমর্থন করার জন্য, আমরা অন-ডিভাইস এক্সিকিউশনের জন্য ফাউন্ডেশন এবং বিশেষজ্ঞ মডেল অ্যাক্সেস করার জন্য পরিকাঠামো তৈরি করেছি। এই অবকাঠামোটি ইতিমধ্যেই উদ্ভাবনী ব্রাউজার বৈশিষ্ট্যগুলিকে শক্তিশালী করছে, যেমন আমাকে লিখতে সাহায্য করুন ৷

আপনি বিল্ট-ইন AI ক্ষমতাগুলি অ্যাক্সেস করতে পারেন প্রাথমিকভাবে টাস্ক API , যেমন Translator API বা Summarizer API দিয়ে। টাস্ক APIগুলিকে অ্যাসাইনমেন্টের জন্য সেরা মডেলের বিপরীতে অনুমান চালানোর জন্য ডিজাইন করা হয়েছে।

ক্রোমে, এই APIগুলিকে সূক্ষ্ম-টিউনিং বা একটি বিশেষজ্ঞ মডেল সহ জেমিনি ন্যানো-এর বিরুদ্ধে অনুমান চালানোর জন্য তৈরি করা হয়েছে৷ বেশিরভাগ আধুনিক ডিভাইসে স্থানীয়ভাবে চালানোর জন্য ডিজাইন করা হয়েছে, জেমিনি ন্যানো ভাষা-সম্পর্কিত ব্যবহারের ক্ষেত্রে যেমন সারসংক্ষেপ, রিফ্রেসিং বা শ্রেণীকরণের জন্য সেরা।

আমরা প্রম্পট API এর মতো অনুসন্ধানমূলক APIগুলিও প্রদান করছি, যাতে আপনি স্থানীয়ভাবে পরীক্ষা করতে পারেন এবং অতিরিক্ত ব্যবহারের ক্ষেত্রে ভাগ করতে পারেন৷

ভবিষ্যতে, আমরা মডেলের ওজন সামঞ্জস্য করে অন্তর্নির্মিত মডেলের কার্যকারিতা উন্নত করতে একটি অনুসন্ধানমূলক LoRA API অফার করতে পারি।

এই চিত্রটি দেখায় যে কীভাবে আপনার ওয়েবসাইট বা অ্যাপ Chrome-এ তৈরি মডেলগুলি অ্যাক্সেস করতে টাস্ক এবং অনুসন্ধানমূলক ওয়েব প্ল্যাটফর্ম API ব্যবহার করতে পারে৷

কখন বিল্ট-ইন AI ব্যবহার করবেন

বিল্ট-ইন এআই আপনাকে এবং আপনার ব্যবহারকারীদের উপকার করতে পারে এমন কয়েকটি উপায় এখানে রয়েছে:

  • AI-বর্ধিত বিষয়বস্তু ব্যবহার : সংক্ষিপ্তকরণ, অনুবাদ, শ্রেণীকরণ, চরিত্রায়ন এবং জ্ঞান প্রদানকারী হিসাবে অন্তর্ভুক্ত।
  • এআই-সমর্থিত বিষয়বস্তু তৈরি : যেমন লেখার সহায়তা, প্রুফরিডিং, ব্যাকরণ সংশোধন এবং রিফ্রেসিং।

এরপর কি

অরিজিন ট্রায়ালে পরীক্ষা করার জন্য বেশ কিছু অন্তর্নির্মিত AI API পাওয়া যায়। অনুসন্ধানমূলক API এবং অন্যান্য, প্রাথমিক পর্যায়ের APIগুলি প্রাথমিক পূর্বরূপ প্রোগ্রাম অংশগ্রহণকারীদের জন্য উপলব্ধ।

Google AI JavaScript SDK-এর জন্য আমাদের কুইকস্টার্টে আপনার ওয়েবসাইট এবং ওয়েব অ্যাপগুলির সাথে Google-এর সার্ভারে Gemini Pro কীভাবে ব্যবহার করবেন তা শিখুন।