发布时间:2024 年 5 月 16 日
在线购物时,看到大量的商品评价和可选商品可能会让人感到不知所措。如何从所有这些信息中过滤出真正能满足我们具体需求的产品?
例如,假设我们要购买一个工作用的背包。背包需要在功能、美学和实用性方面取得平衡。由于评价数量众多,您几乎无法确定自己是否找到了理想的包包。如果我们能使用 AI 来过滤噪声并找到理想的产品,结果会怎样?
最好能提供所有评价的摘要,以及最常见的优点和缺点列表。
为此,我们使用服务器端生成式 AI。推理是在服务器上进行的。
在本文档中,您可以按照 Gemini API with Node.js 教程操作,使用 Google AI JavaScript SDK 总结许多评价中的数据。我们将重点介绍生成式 AI 部分;不会介绍如何存储结果或创建作业队列。
在实践中,您可以将任何 LLM API 与任何 SDK 搭配使用。不过,建议的提示可能需要进行调整,以符合您选择的模型。
前提条件
创建 Gemini API 密钥,并在环境文件中定义该密钥。
安装 Google AI JavaScript SDK,例如使用 npm:
npm install @google/generative-ai
构建评价摘要应用
- 初始化生成式 AI 对象。
- 创建一个用于生成评价摘要的函数。
- 选择生成式 AI 模型。对于我们的应用场景,我们将使用 Gemini Pro。使用特定于您的用例的模型(例如,
gemini-pro-vision
适用于多模态输入)。 - 添加提示。
- 调用
generateContent
以将提示作为参数传递。 - 生成并返回响应。
- 选择生成式 AI 模型。对于我们的应用场景,我们将使用 Gemini Pro。使用特定于您的用例的模型(例如,
const { GoogleGenerativeAI } = require("@google/generative-ai");
// Access the API key env
const genAI = new GoogleGenerativeAI(process.env.API_KEY_GEMINI);
async function generateReviewSummary(reviews) {
// Use gemini-pro model for text-only input
const model = genAI.getGenerativeModel({ model: "gemini-pro" });
// Shortened for legibility. See "Write an effective prompt" for
// writing an actual production-ready prompt.
const prompt = `Summarize the following product reviews:\n\n${reviews}`;
const result = await model.generateContent(prompt);
const response = await result.response;
const summary = response.text();
return summary;
}
撰写有效的提示
要想成功使用生成式 AI,最好的方法是创建详尽的提示。在此示例中,我们使用了一次性提示方法来获得一致的输出。
单样本提示由 Gemini 要建模的示例输出表示。
const prompt =
`I will give you user reviews for a product. Generate a short summary of the
reviews, with focus on the common positive and negative aspects across all of
the reviews. Use the exact same output format as in the example (list of
positive highlights, list of negative aspects, summary). In the summary,
address the potential buyer with second person ("you", "be aware").
Input (list of reviews):
// ... example
Output (summary of reviews):
// ... example
**Positive highlights**
// ... example
**Negative aspects**
// ... example
**Summary**
// ... example
Input (list of reviews):
${reviews}
Output (summary of all input reviews):`;
以下是此问题的示例输出,其中包含所有评价的摘要以及常见优缺点列表。
## Summary of Reviews:
**Positive highlights:**
* **Style:** Several reviewers appreciate the backpack's color and design.
* **Organization:** Some users love the compartments and find them useful for
organization.
* **Travel & School:** The backpack seems suitable for both travel and school
use, being lightweight and able to hold necessary items.
**Negative aspects:**
* **Durability:** Concerns regarding the zipper breaking and water bottle holder
ripping raise questions about the backpack's overall durability.
* **Size:** A few reviewers found the backpack smaller than expected.
* **Material:** One user felt the material was cheap and expressed concern about
its longevity.
**Summary:**
This backpack seems to be stylish and appreciated for its organization and
suitability for travel and school. However, you should be aware of potential
durability issues with the zippers and water bottle holder. Some users also
found the backpack smaller than anticipated and expressed concerns about the
material's quality.
令牌数量限制
评价过多可能会导致模型的令牌用尽。词元并不总是等于单个字词;词元可以是字词的一部分,也可以是多个字词的组合。例如,Gemini Pro 的令牌数上限为 30,720 个。这意味着,除提示中的其他说明外,提示最多可包含 600 条平均 30 个字符的英文评价。
使用 countTokens()
检查令牌数量,如果提示超过允许的大小,请缩减输入。
const MAX_INPUT_TOKENS = 30720
const { totalTokens } = await model.countTokens(prompt);
if (totalTokens > MAX_INPUT_TOKENS) {
// Shorten the prompt.
}
为企业打造产品
如果您是 Google Cloud 用户或需要企业级支持,则可以使用 Vertex AI 访问 Gemini Pro 和更多模型,例如 Anthropic 的 Claude 模型。您可能需要使用 Model Garden 来确定哪种模型最适合您的特定用例。
后续步骤
我们开发的应用在生成最有效的摘要时,非常依赖于优质的评价。如需收集这些优质评价,请参阅本系列的下一篇文章:利用设备端 Web AI 帮助用户撰写实用的商品评价。
我们希望听到您对此方法的反馈。请告诉我们您最感兴趣的使用场景。您可以分享反馈并加入早期预览计划,以便使用本地原型测试这项技术。
您的贡献有助于我们将 AI 打造成一款适合所有人的强大而实用的工具。