Как LLM передает ответы

Томас Штайнер
Александра Клеппер

Опубликовано: 21 января 2025 г.

Потоковый ответ LLM состоит из данных, передаваемых постепенно и непрерывно. Потоковая передача данных на сервере и клиенте выглядит по-разному.

С сервера

Чтобы понять, как выглядит потоковый ответ, я предложил Gemini рассказать мне длинную шутку, используя инструмент командной строки curl . Рассмотрим следующий вызов API Gemini. Если вы попробуете это сделать, обязательно замените {GOOGLE_API_KEY} в URL-адресе на свой ключ Gemini API.

$ curl "https://generativelanguage.googleapis.com/v1beta/models/gemini-1.5-flash:streamGenerateContent?alt=sse&key={GOOGLE_API_KEY}" \
      -H 'Content-Type: application/json' \
      --no-buffer \
      -d '{ "contents":[{"parts":[{"text": "Tell me a long T-rex joke, please."}]}]}'

Этот запрос регистрирует следующий (усеченный) вывод в формате потока событий . Каждая строка начинается с data: за ними следует полезная нагрузка сообщения. Конкретный формат на самом деле не важен, важны куски текста.

//
data: {"candidates":[{"content": {"parts": [{"text": "A T-Rex"}],"role": "model"},
  "finishReason": "STOP","index": 0,"safetyRatings": [{"category": "HARM_CATEGORY_SEXUALLY_EXPLICIT","probability": "NEGLIGIBLE"},{"category": "HARM_CATEGORY_HATE_SPEECH","probability": "NEGLIGIBLE"},{"category": "HARM_CATEGORY_HARASSMENT","probability": "NEGLIGIBLE"},{"category": "HARM_CATEGORY_DANGEROUS_CONTENT","probability": "NEGLIGIBLE"}]}],
  "usageMetadata": {"promptTokenCount": 11,"candidatesTokenCount": 4,"totalTokenCount": 15}}

data: {"candidates": [{"content": {"parts": [{ "text": " walks into a bar and orders a drink. As he sits there, he notices a" }], "role": "model"},
  "finishReason": "STOP","index": 0,"safetyRatings": [{"category": "HARM_CATEGORY_SEXUALLY_EXPLICIT","probability": "NEGLIGIBLE"},{"category": "HARM_CATEGORY_HATE_SPEECH","probability": "NEGLIGIBLE"},{"category": "HARM_CATEGORY_HARASSMENT","probability": "NEGLIGIBLE"},{"category": "HARM_CATEGORY_DANGEROUS_CONTENT","probability": "NEGLIGIBLE"}]}],
  "usageMetadata": {"promptTokenCount": 11,"candidatesTokenCount": 21,"totalTokenCount": 32}}
После выполнения команды поступают фрагменты результата.

Первая полезная нагрузка — JSON. Присмотритесь к выделенным candidates[0].content.parts[0].text :

{
  "candidates": [
    {
      "content": {
        "parts": [
          {
            "text": "A T-Rex"
          }
        ],
        "role": "model"
      },
      "finishReason": "STOP",
      "index": 0,
      "safetyRatings": [
        {
          "category": "HARM_CATEGORY_SEXUALLY_EXPLICIT",
          "probability": "NEGLIGIBLE"
        },
        {
          "category": "HARM_CATEGORY_HATE_SPEECH",
          "probability": "NEGLIGIBLE"
        },
        {
          "category": "HARM_CATEGORY_HARASSMENT",
          "probability": "NEGLIGIBLE"
        },
        {
          "category": "HARM_CATEGORY_DANGEROUS_CONTENT",
          "probability": "NEGLIGIBLE"
        }
      ]
    }
  ],
  "usageMetadata": {
    "promptTokenCount": 11,
    "candidatesTokenCount": 4,
    "totalTokenCount": 15
  }
}

Эта первая text запись — начало ответа Близнецов. Когда вы извлекаете больше text записей, ответ разделяется новой строкой.

В следующем фрагменте показано несколько text записей, которые показывают окончательный ответ модели.

"A T-Rex"

" was walking through the prehistoric jungle when he came across a group of Triceratops. "

"\n\n\"Hey, Triceratops!\" the T-Rex roared. \"What are"

" you guys doing?\"\n\nThe Triceratops, a bit nervous, mumbled,
\"Just... just hanging out, you know? Relaxing.\"\n\n\"Well, you"

" guys look pretty relaxed,\" the T-Rex said, eyeing them with a sly grin.
\"Maybe you could give me a hand with something.\"\n\n\"A hand?\""

...

Но что произойдет, если вместо шуток о тираннозаврах вы попросите модель о чем-то более сложном? Например, попросите Gemini придумать функцию JavaScript, чтобы определить, является ли число четным или нечетным. text: чанки выглядят немного по-другому.

Вывод теперь содержит формат Markdown , начиная с блока кода JavaScript. Следующий пример включает в себя те же этапы предварительной обработки, что и раньше.

"```javascript\nfunction"

" isEven(number) {\n  // Check if the number is an integer.\n"

"  if (Number.isInteger(number)) {\n  // Use the modulo operator"

" (%) to check if the remainder after dividing by 2 is 0.\n  return number % 2 === 0; \n  } else {\n  "
"// Return false if the number is not an integer.\n    return false;\n }\n}\n\n// Example usage:\nconsole.log(isEven("

"4)); // Output: true\nconsole.log(isEven(7)); // Output: false\nconsole.log(isEven(3.5)); // Output: false\n```\n\n**Explanation:**\n\n1. **`isEven("

"number)` function:**\n   - Takes a single argument `number` representing the number to be checked.\n   - Checks if the `number` is an integer using `Number.isInteger()`.\n   - If it's an"

...

Чтобы усложнить задачу, некоторые из размеченных элементов начинаются в одном блоке и заканчиваются в другом. Часть разметки является вложенной. В следующем примере выделенная функция разделена между двумя строками: **isEven( and number) function:** . В совокупности выходные данные представляют собой **isEven("number) function:** . Это означает, что если вы хотите вывести форматированный Markdown, вы не можете просто обрабатывать каждый фрагмент отдельно с помощью анализатора Markdown.

От клиента

Если вы запускаете такие модели, как Gemma, на клиенте с такой платформой, как MediaPipe LLM , потоковая передача данных осуществляется через функцию обратного вызова.

Например:

llmInference.generateResponse(
  inputPrompt,
  (chunk, done) => {
     console.log(chunk);
});

С помощью Prompt API вы получаете потоковые данные в виде фрагментов, перебирая ReadableStream .

const languageModel = await self.ai.languageModel.create();
const stream = languageModel.promptStreaming(inputPrompt);
for await (const chunk of stream) {
  console.log(chunk);
}

Следующие шаги

Вам интересно, как эффективно и безопасно визуализировать потоковые данные? Ознакомьтесь с нашими рекомендациями по предоставлению ответов LLM .