Опубликовано: 14 мая 2024 г.
Вывод ИИ на стороне клиента происходит на устройстве, что может быть невероятно эффективным наряду с любой существующей настройкой на стороне сервера. Встроенный ИИ — это одна из форм ИИ на стороне клиента, которая переносит модели в браузер, защищая конфиденциальные данные и уменьшая задержку.
- Конфиденциальность и безопасность . ИИ на стороне клиента позволяет вам работать с данными локально, что значительно влияет на вашу способность работать с конфиденциальными данными и обеспечивать их безопасность и конфиденциальность. Вы можете предложить пользователям функции искусственного интеллекта с помощью сквозного шифрования.
- Повышенная доступность . ИИ на стороне клиента может помочь повысить доступность для ваших пользователей. Устройства ваших пользователей могут взять на себя часть вычислительной нагрузки в обмен на больший доступ к функциям искусственного интеллекта. Если ваш продукт предлагает услугу премиум-класса, вы можете рассмотреть возможность бесплатного уровня с функциями искусственного интеллекта на стороне клиента, чтобы помочь вашим клиентам получить представление о том, что предоставляет услуга премиум-класса.
Использование искусственного интеллекта на стороне клиента не может полностью заменить и воспроизвести работу, которую вы выполняете в облаке. В конце концов, серверы невероятно мощны и способны хранить большие и сложные модели, которые быстро дают результаты.
Клиентская часть не всегда является правильным выбором, поэтому, прежде чем двигаться дальше, мы хотим напомнить вам о некоторых лучших практиках:
- Создавайте свои функции с помощью изящных резервных вариантов и запускайте тесты на целевых устройствах. Не каждое устройство сможет выступать в качестве источника искусственного интеллекта.
- Создавайте для конкретных случаев использования . Клиентский ИИ лучше всего подходит для конкретных случаев использования. Эти модели по своей сути меньше тех, которые обычно встречаются в серверном ИИ. Разбейте свой процесс на целевые этапы и используйте предварительную и постобработку, чтобы модели меньшего размера могли по-прежнему обеспечивать наилучший возможный ответ.
- Будьте стратегически ориентированы на требования к загрузке . Модели ИИ могут быть большими, что может привести к интенсивному использованию мобильных данных и памяти устройств. Убедитесь, что вы создаете полезную функцию для своих пользователей и что у вас есть ответственная стратегия обслуживания и кэширования.
Поделитесь своим отзывом
Мы хотим услышать о том, какие варианты использования вас больше всего интересуют, и ваши отзывы о нашем подходе. Вы можете поделиться отзывами и присоединиться к программе раннего предварительного просмотра, чтобы протестировать локальные прототипы.
Ваш вклад может помочь нам сделать ИИ мощным и практичным инструментом для каждого.
Начните работу со встроенными AI API в Chrome.