Maud Nalpas
Kenji Baheux
Alexandra Klepper
게시일: 2024년 5월 14일
클라이언트 측 AI 추론은 기기 내에서 이루어지며 기존 서버 측 설정과 함께 매우 강력할 수 있습니다. 기본 제공 AI는 모델을 브라우저로 가져와 민감한 정보를 보호하고 지연 시간을 개선하는 클라이언트 측 AI의 한 형태입니다.
- 개인 정보 보호 및 보안: 클라이언트 측 AI를 사용하면 로컬에서 데이터를 처리할 수 있으므로 민감한 데이터를 처리하고 안전하게 비공개로 유지하는 기능에 큰 영향을 미칩니다. 엔드 투 엔드 암호화를 통해 사용자에게 AI 기능을 제공할 수 있습니다.
- 더 나은 가용성: 클라이언트 측 AI를 사용하면 사용자에게 더 나은 가용성을 제공할 수 있습니다. 사용자의 기기는 AI 기능에 더 많이 액세스하는 대신 일부 처리 부하를 감당할 수 있습니다. 제품에서 프리미엄 서비스를 제공하는 경우 고객이 프리미엄 서비스가 제공하는 기능을 간단히 살펴볼 수 있도록 클라이언트 측 AI 기능이 포함된 무료 등급을 고려해 볼 수 있습니다.
클라이언트 측 AI를 실행한다고 해서 클라우드에서 수행하는 작업을 완전히 대체하고 복제할 수는 없습니다. 서버는 매우 강력하며 결과를 빠르게 제공하는 크고 복잡한 모델을 보유할 수 있습니다.
클라이언트 측이 항상 올바른 선택은 아니므로 계속 진행하기 전에 몇 가지 권장사항을 알려드립니다.
- 조용히 대체 기능으로 기능 설계하고 타겟 기기에서 벤치마크를 실행합니다. 모든 기기가 AI 강자로 작동하는 것은 아닙니다.
- 특정 사용 사례에 맞게 빌드 클라이언트 측 AI는 특정 사용 사례에 가장 적합합니다. 이러한 모델은 서버 측 AI에 일반적으로 있는 모델보다 본질적으로 작습니다. 소규모 모델에서도 최선의 응답을 제공할 수 있도록 프로세스를 타겟팅된 단계로 분류하고 전처리 및 후처리를 활용하세요.
- 다운로드 요구사항에 대해 전략적으로 접근하세요. AI 모델은 크기가 클 수 있으므로 모바일 데이터와 기기 저장용량이 많이 사용될 수 있습니다. 사용자에게 유용한 기능을 빌드하고 책임감 있는 게재 및 캐싱 전략을 수립해야 합니다.
의견 공유하기
가장 관심이 있는 사용 사례와 Google의 접근 방식에 관한 의견을 알려주세요. 의견을 공유하고 사전 체험판 프로그램 가입을 요청하여 로컬 프로토타입으로 테스트할 수 있습니다.
여러분의 참여는 AI를 모든 사용자에게 강력하면서도 실용적인 도구로 만드는 데 도움이 됩니다.