发布时间：2024 年 5 月 16 日
在线购物时，看到大量的商品评价和可选商品可能会让人感到不知所措。如何从所有这些信息中过滤出真正能满足我们具体需求的产品？
例如，假设我们要购买一个工作用的背包。背包需要在功能、美学和实用性方面取得平衡。由于评价数量众多，您几乎无法确定自己是否找到了理想的包包。如果我们能使用 AI 来过滤掉噪声，找到理想的产品，该多好？
最好能提供所有评价的摘要，以及最常见的优点和缺点列表。
为此，我们使用服务器端生成式 AI。推理是在服务器上进行的。
在本文档中，您可以按照 Gemini API with Node.js 教程中的说明操作，使用 Google AI JavaScript SDK 总结许多评价中的数据。我们将重点介绍生成式 AI 部分；不会介绍如何存储结果或创建作业队列。
在实践中，您可以将任何 LLM API 与任何 SDK 搭配使用。不过，建议的提示可能需要进行调整，以符合您选择的模型。
前提条件
创建 Gemini API 密钥，并在环境文件中定义该密钥。
安装 Google AI JavaScript SDK，例如使用 npm：
npm install @google/generative-ai
构建评价摘要应用
- 初始化生成式 AI 对象。
- 创建一个用于生成评价摘要的函数。
- 选择生成式 AI 模型。对于我们的应用场景，我们将使用 Gemini Pro。使用特定于您的应用场景的模型（例如，
gemini-pro-vision适用于多模态输入）。 - 添加提示。
- 调用
generateContent以将提示作为参数传递。 - 生成并返回响应。
- 选择生成式 AI 模型。对于我们的应用场景，我们将使用 Gemini Pro。使用特定于您的应用场景的模型（例如，
const { GoogleGenerativeAI } = require("@google/generative-ai");
// Access the API key env
const genAI = new GoogleGenerativeAI(process.env.API_KEY_GEMINI);
async function generateReviewSummary(reviews) {
// Use gemini-pro model for text-only input
const model = genAI.getGenerativeModel({ model: "gemini-pro" });
// Shortened for legibility. See "Write an effective prompt" for
// writing an actual production-ready prompt.
const prompt = `Summarize the following product reviews:\n\n${reviews}`;
const result = await model.generateContent(prompt);
const response = await result.response;
const summary = response.text();
return summary;
}
撰写有效的提示
要想成功使用生成式 AI，最好的方法是创建详尽的提示。在此示例中，我们使用了一次性提示方法来获得一致的输出。
单样本提示由 Gemini 要对其进行建模的示例输出表示。
const prompt =
`I will give you user reviews for a product. Generate a short summary of the
reviews, with focus on the common positive and negative aspects across all of
the reviews. Use the exact same output format as in the example (list of
positive highlights, list of negative aspects, summary). In the summary,
address the potential buyer with second person ("you", "be aware").
Input (list of reviews):
// ... example
Output (summary of reviews):
// ... example
**Positive highlights**
// ... example
**Negative aspects**
// ... example
**Summary**
// ... example
Input (list of reviews):
${reviews}
Output (summary of all input reviews):`;
下面是此提示的输出示例，其中包括所有评价的摘要以及常见优缺点列表。
## Summary of Reviews:
**Positive highlights:**
* **Style:** Several reviewers appreciate the backpack's color and design.
* **Organization:** Some users love the compartments and find them useful for
organization.
* **Travel & School:** The backpack seems suitable for both travel and school
use, being lightweight and able to hold necessary items.
**Negative aspects:**
* **Durability:** Concerns regarding the zipper breaking and water bottle holder
ripping raise questions about the backpack's overall durability.
* **Size:** A few reviewers found the backpack smaller than expected.
* **Material:** One user felt the material was cheap and expressed concern about
its longevity.
**Summary:**
This backpack seems to be stylish and appreciated for its organization and
suitability for travel and school. However, you should be aware of potential
durability issues with the zippers and water bottle holder. Some users also
found the backpack smaller than anticipated and expressed concerns about the
material's quality.
词元限制
许多评价可能会达到模型的词元限制。词元并不总是等于单个字词；词元可以是某个字词的一部分，也可以是多个字词结合在一起。例如，Gemini Pro 的令牌数上限为 30,720 个。这意味着提示最多可以包含 600 条平均 30 字的英文评价，并去除其余的提示说明。
使用 countTokens() 检查词元数量，并在提示大于允许的情况下减少输入。
const MAX_INPUT_TOKENS = 30720
const { totalTokens } = await model.countTokens(prompt);
if (totalTokens > MAX_INPUT_TOKENS) {
// Shorten the prompt.
}
为企业打造产品
如果您是 Google Cloud 用户或需要企业级支持，则可以使用 Vertex AI 访问 Gemini Pro 和更多模型，例如 Anthropic 的 Claude 模型。您可能需要使用 Model Garden 来确定哪种模型最符合您的特定使用场景。
后续步骤
我们开发的应用在生成最有效的摘要时，非常依赖于优质的评价。如需收集这些质量评价，请阅读本系列的下一篇文章：使用设备端 Web AI 帮助用户撰写实用的商品评价。
我们希望听到您对此方法的反馈。请告诉我们您最感兴趣的使用场景。您可以分享反馈并加入早期预览版计划，以便使用本地原型测试此技术。
您的贡献有助于我们将 AI 打造成一款功能强大且实用的工具，让人人受益。