Отладка Gemini Nano

Томас Штайнер

Опубликовано: 28 февраля 2025 г.

Встроенный ИИ использует Gemini Nano для выполнения логических выводов для всех API. Иногда Gemini Nano может возвращать сообщение об ошибке или иным образом не возвращать ожидаемый результат. Вы можете просмотреть информацию об отладке для всех встроенных API-интерфейсов искусственного интеллекта , использующих Gemini Nano. Сюда входят API Prompt, API Summarizer, API Writer и API Rewriter.

  1. Откройте Chrome и перейдите по адресу chrome://on-device-internals .
  2. Выберите Журналы событий .
  3. (Необязательно) Нажмите «Дамп» , чтобы загрузить файл JSON со всей информацией о событии.

Вы можете сообщить об ошибке , чтобы мы могли устранить эту ошибку в нашей реализации.

Пример. Отладка API подсказок

Например, в следующем сеансе пользователь запросил рифмующиеся слова из Prompt API.

const session = await ai.languageModel.create({
  systemPrompt: "You are an API endpoint that returns rhymes as JSON for an input word."
});

await session.prompt([
  { role: "user", content: "house" },  
  { role: "assistant", content: "{\"input\": \"house\", \"output\": \"mouse\"}" },
  { role: "user", content: "file"},  
]);

Ответ модели был следующим, отформатированным для удобства чтения:

```json
[]
```

**Reasoning:**

The input you provided (empty arrays) is an empty list or array in JSON format.
When you try to find rhymes for an empty list, you're essentially looking for
words that rhyme with nothing.


Therefore, there are no rhymes to return. The JSON response will be an empty
array `[]`."

Почему модель не вернула сообщение JSON с рифмующимся словом, в идеале {"input": "file", "output": "pile"} ? Хотя структурированный вывод еще не реализован на момент написания этой статьи, ответ должен, по крайней мере, каким-то образом выполнять задачу рифмования.

Чтобы устранить эту ошибку, посетите chrome://on-device-internals/ и перейдите на вкладку «Журналы событий» . Журнал показывает, что проблема заключалась в интерпретации подсказки моделью. Вместо JSON модель воспринимала входные данные как строку: [object Object],[object Object],[object Object] .

Вот полное отладочное сообщение, отформатированное для удобства чтения:

Executing model with input context of 0 tokens:
<system>You are an API endpoint that returns rhymes as JSON for an input word.<end>
with string: <user>[object Object],[object Object],[object Object]<end> <model>

Вкладка «Журналы событий» специальной страницы chrome://on-device-internals с отладочной информацией.

Мы добавили эту информацию в ошибку, связанную с проблемой модели. Похоже, что Prompt API запускает toString() для входных данных JSON , что помогло команде разработчиков выявить проблему.

Поделиться отзывом

Поделитесь своими отзывами об отладке, отправив отчет об ошибке .