Review-LLM: Harnessing Large Language Models for Personalized Review Generation

📄 arXiv: 2407.07487v1 📥 PDF

作者: Qiyao Peng, Hongtao Liu, Hongyan Xu, Qing Yang, Minglai Shao, Wenjun Wang

分类: cs.CL

发布日期: 2024-07-10

💡 一句话要点

提出Review-LLM，利用大语言模型生成个性化商品评论，解决现有方法个性化不足问题。

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 个性化评论生成 大语言模型 提示学习 监督式微调 推荐系统

📋 核心要点

  1. 现有方法难以生成个性化评论，特别是负面评论，无法准确反映用户真实偏好。
  2. Review-LLM通过整合用户历史行为和评分信息构建提示，引导LLMs生成更个性化的评论。
  3. 实验表明，Review-LLM在评论生成任务上优于现有闭源LLMs，提升了评论的个性化和准确性。

📝 摘要（中文）

商品评论生成是推荐系统中一项重要任务，它可以为推荐提供解释性和说服力。最近，大型语言模型（LLMs，例如ChatGPT）展现了卓越的文本建模和生成能力，可以应用于评论生成。然而，直接应用LLMs生成评论可能会受到LLMs的“礼貌”现象的困扰，并且无法生成个性化的评论（例如，负面评论）。在本文中，我们提出了Review-LLM，它定制LLMs用于个性化评论生成。首先，我们通过聚合用户历史行为（包括相应的商品标题和评论）来构建提示输入。这使得LLMs能够捕获用户兴趣特征和评论写作风格。其次，我们将评分作为满意度的指标纳入提示中，这可以进一步提高模型对用户偏好的理解以及对生成评论的情感倾向控制。最后，我们将提示文本输入LLMs，并使用监督式微调（SFT）使模型为给定的用户和目标商品生成个性化评论。在真实数据集上的实验结果表明，我们微调后的模型可以实现比现有闭源LLMs更好的评论生成性能。

🔬 方法详解

问题定义：论文旨在解决商品评论生成任务中，现有方法无法充分利用大型语言模型（LLMs）生成个性化评论的问题。直接使用LLMs进行评论生成，往往会受到其“礼貌”属性的限制，难以生成负面评价，并且无法有效捕捉用户的个性化偏好，导致生成的评论缺乏针对性和真实性。

核心思路：论文的核心思路是通过构建包含用户历史行为和评分信息的提示（Prompt），引导LLMs生成更符合用户偏好的个性化评论。通过将用户历史交互信息和评分作为先验知识输入LLMs，使其能够更好地理解用户的兴趣和情感倾向，从而生成更具个性化和情感色彩的评论。

技术框架：Review-LLM的技术框架主要包括以下几个阶段：1) 提示构建：聚合用户历史行为（包括商品标题和评论）以及评分信息，构建包含用户兴趣和情感倾向的提示文本。2) 模型微调：将构建的提示文本输入LLMs，并使用监督式微调（SFT）方法，使模型学习生成个性化评论。3) 评论生成：对于给定的用户和目标商品，使用微调后的LLMs生成个性化评论。

关键创新：论文的关键创新在于：1) 提出了一种基于提示学习的个性化评论生成方法，有效利用了LLMs的文本生成能力。2) 将用户历史行为和评分信息融入提示中，提高了LLMs对用户偏好的理解和情感倾向的控制能力。3) 通过监督式微调，使LLMs能够生成更符合用户期望的个性化评论。

关键设计：在提示构建方面，论文将用户历史交互的商品标题和评论进行拼接，并加入评分信息作为满意度指标。在模型微调方面，采用了监督式微调（SFT）方法，使用用户历史评论数据作为训练样本，优化LLMs的参数，使其能够生成更符合用户写作风格和偏好的评论。具体的损失函数和网络结构细节在论文中可能未详细描述，属于LLM本身的设计。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，Review-LLM在真实数据集上取得了比现有闭源LLMs更好的评论生成性能。具体指标（如BLEU、ROUGE等）和提升幅度在摘要中未明确给出，但强调了微调后的模型在个性化评论生成方面的优势。

🎯 应用场景

Review-LLM可应用于电商推荐系统，生成更具个性化和说服力的商品评论，提升用户购买意愿和满意度。该方法还可扩展到其他文本生成任务，例如生成个性化新闻摘要、电影评论等，具有广泛的应用前景。未来，可以探索如何利用更丰富的用户数据和更先进的LLMs，进一步提升评论生成的质量和个性化程度。

📄 摘要（原文）

Product review generation is an important task in recommender systems, which could provide explanation and persuasiveness for the recommendation. Recently, Large Language Models (LLMs, e.g., ChatGPT) have shown superior text modeling and generating ability, which could be applied in review generation. However, directly applying the LLMs for generating reviews might be troubled by the ``polite'' phenomenon of the LLMs and could not generate personalized reviews (e.g., negative reviews). In this paper, we propose Review-LLM that customizes LLMs for personalized review generation. Firstly, we construct the prompt input by aggregating user historical behaviors, which include corresponding item titles and reviews. This enables the LLMs to capture user interest features and review writing style. Secondly, we incorporate ratings as indicators of satisfaction into the prompt, which could further improve the model's understanding of user preferences and the sentiment tendency control of generated reviews. Finally, we feed the prompt text into LLMs, and use Supervised Fine-Tuning (SFT) to make the model generate personalized reviews for the given user and target item. Experimental results on the real-world dataset show that our fine-tuned model could achieve better review generation performance than existing close-source LLMs.