Fecha de publicación: 14 de mayo de 2024
La inferencia de IA del cliente se produce en el dispositivo, lo que puede ser increíblemente potente junto con cualquier configuración existente del servidor. La IA integrada es una forma de IA del cliente que lleva modelos al navegador, protege los datos sensibles y mejora la latencia.
- Privacidad y seguridad: La IA del cliente te permite trabajar con datos de forma local, lo que afecta en gran medida tu capacidad de trabajar con datos sensibles y mantenerlos seguros y privados. Puedes ofrecer funciones de IA a los usuarios con encriptación de extremo a extremo.
- Mayor disponibilidad: La IA del cliente puede ayudarte a lograr una mayor disponibilidad para tus usuarios. Los dispositivos de tus usuarios pueden soportar parte de la carga de procesamiento a cambio de más acceso a las funciones de IA. Si tu producto ofrece un servicio premium, puedes considerar un nivel gratuito con funciones de IA del cliente para ayudar a tus clientes a obtener una idea de lo que ofrece el servicio premium.
Ejecutar IA del cliente no puede reemplazar ni replicar por completo el trabajo que realizas en la nube. Después de todo, los servidores son increíblemente potentes y pueden contener modelos grandes y complejos que brindan resultados rápidamente.
El procesamiento del cliente no siempre es la opción correcta, por lo que, antes de continuar, queremos recordarte algunas prácticas recomendadas:
- Diseña tus funciones con resguardos elegantes y ejecuta comparativas en tus dispositivos de destino. No todos los dispositivos podrán actuar como un centro de IA.
- Compila para casos de uso específicos. La IA del cliente funciona mejor para casos de uso específicos. Los modelos son, por naturaleza, más pequeños que los que se suelen encontrar en la IA del servidor. Divide tu proceso en pasos segmentados y usa el procesamiento previo y posterior para que los modelos más pequeños puedan ofrecer la mejor respuesta posible.
- Adopta un enfoque estratégico con respecto a los requisitos de descarga. Los modelos de IA pueden ser grandes, lo que podría generar un gran uso de datos móviles y almacenamiento en el dispositivo. Asegúrate de compilar una función útil para tus usuarios y de tener una estrategia de entrega y almacenamiento en caché responsable.
Comparte tus comentarios
Queremos saber qué casos de uso te interesan más y tus comentarios sobre nuestro enfoque. Puedes compartir comentarios y solicitar unirte al programa de versión preliminar anticipada para realizar pruebas con prototipos locales.
Tu contribución puede ayudarnos a hacer de la IA una herramienta potente pero práctica para todos.