发布时间:2024 年 5 月 16 日
在线购物时,看到大量的商品评价和可选商品可能会让人感到不知所措。我们该如何从众多杂乱的信息中找出真正能满足我们具体需求的产品呢?
例如,假设我们要购买一个工作用的背包。背包需要在功能、美学和实用性方面达到平衡。数量众多,让您几乎不可能知道自己是否找到了完美的包。如果我们能使用 AI 来过滤掉噪声,找到理想的产品,该多好?
最好提供一份所有评价的摘要,以及一份最常见的优缺点列表。
为此,我们使用服务器端生成式 AI。推理是在服务器上进行的。
在本文档中,您可以按照 Gemini API with Node.js 教程中的说明操作,使用 Google AI JavaScript SDK 总结许多评价中的数据。我们将重点介绍生成式 AI 部分;不会介绍如何存储结果或创建作业队列。
在实践中,您可以将任何 LLM API 与任何 SDK 搭配使用。不过,建议的提示可能需要进行调整,以符合您选择的模型。
前提条件
创建 Gemini API 密钥,并在环境文件中定义该密钥。
安装 Google AI JavaScript SDK,例如使用 npm:
npm install @google/generative-ai
构建评价摘要应用
- 初始化生成式 AI 对象。
- 创建一个用于生成评价摘要的函数。
- 选择生成式 AI 模型。对于我们的应用场景,我们将使用 Gemini Pro。请使用您的用例专用的模型(例如,
gemini-pro-vision
用于多模态输入)。 - 添加提示。
- 调用
generateContent
以将提示作为参数传递。 - 生成并返回响应。
- 选择生成式 AI 模型。对于我们的应用场景,我们将使用 Gemini Pro。请使用您的用例专用的模型(例如,
const { GoogleGenerativeAI } = require("@google/generative-ai");
// Access the API key env
const genAI = new GoogleGenerativeAI(process.env.API_KEY_GEMINI);
async function generateReviewSummary(reviews) {
// Use gemini-pro model for text-only input
const model = genAI.getGenerativeModel({ model: "gemini-pro" });
// Shortened for legibility. See "Write an effective prompt" for
// writing an actual production-ready prompt.
const prompt = `Summarize the following product reviews:\n\n${reviews}`;
const result = await model.generateContent(prompt);
const response = await result.response;
const summary = response.text();
return summary;
}
撰写有效的提示
要想成功使用生成式 AI,最好的方法是创建详尽的提示。在此示例中,我们使用了一次性提示方法来获得一致的输出。
单样本提示由 Gemini 要对其进行建模的示例输出表示。
const prompt =
`I will give you user reviews for a product. Generate a short summary of the
reviews, with focus on the common positive and negative aspects across all of
the reviews. Use the exact same output format as in the example (list of
positive highlights, list of negative aspects, summary). In the summary,
address the potential buyer with second person ("you", "be aware").
Input (list of reviews):
// ... example
Output (summary of reviews):
// ... example
**Positive highlights**
// ... example
**Negative aspects**
// ... example
**Summary**
// ... example
Input (list of reviews):
${reviews}
Output (summary of all input reviews):`;
以下是此问题的示例输出,其中包含所有评价的摘要以及常见优缺点列表。
## Summary of Reviews:
**Positive highlights:**
* **Style:** Several reviewers appreciate the backpack's color and design.
* **Organization:** Some users love the compartments and find them useful for
organization.
* **Travel & School:** The backpack seems suitable for both travel and school
use, being lightweight and able to hold necessary items.
**Negative aspects:**
* **Durability:** Concerns regarding the zipper breaking and water bottle holder
ripping raise questions about the backpack's overall durability.
* **Size:** A few reviewers found the backpack smaller than expected.
* **Material:** One user felt the material was cheap and expressed concern about
its longevity.
**Summary:**
This backpack seems to be stylish and appreciated for its organization and
suitability for travel and school. However, you should be aware of potential
durability issues with the zippers and water bottle holder. Some users also
found the backpack smaller than anticipated and expressed concerns about the
material's quality.
令牌限制
评价过多可能会导致模型的令牌用尽。词元并不总是等于单个字词;词元可以是字词的一部分,也可以是多个字词的组合。例如,Gemini Pro 的词元数量上限为 30,720。这意味着,除提示说明之外,问题最多可包含 600 条平均 30 字的英文评价。
使用 countTokens()
检查令牌数量,如果提示超过允许的大小,请缩减输入。
const MAX_INPUT_TOKENS = 30720
const { totalTokens } = await model.countTokens(prompt);
if (totalTokens > MAX_INPUT_TOKENS) {
// Shorten the prompt.
}
为企业打造产品
如果您是 Google Cloud 用户或需要企业级支持,则可以使用 Vertex AI 访问 Gemini Pro 和更多模型,例如 Anthropic 的 Claude 模型。您可能需要使用 Model Garden 来确定哪种模型最适合您的特定用例。
后续步骤
我们构建的应用在很大程度上依赖于质量审核来提供最有效的摘要。如需收集这些质量评价,请阅读本系列的下一篇文章:使用设备端 Web AI 帮助用户撰写实用的商品评价。
我们希望听到您对此方法的反馈。请告诉我们您最感兴趣的使用场景。您可以分享反馈并加入早期预览版计划,以便使用本地原型测试此技术。
您的贡献有助于我们将 AI 打造成一款功能强大且实用的工具,让人人受益。