登录社区云，与社区用户共同成长
邀请您加入社区
本文介绍了如何在星图GPU平台上自动化部署通义千问3-Reranker-0.6B镜像，实现低资源环境下的文本重排序功能。该镜像专为4GB显存设备优化，适用于RAG系统中的检索结果精排场景，显著提升知识库问答与语义搜索的相关性与准确性。
本文介绍了如何在星图GPU平台上自动化部署通义千问3-Reranker-0.6B镜像，实现文本重排序功能。通过平台一键部署，开发者可快速构建RAG系统中的相关性精排模块，显著提升搜索与知识问答结果的准确率，适用于技术文档检索、智能客服应答等典型场景。
检索：知识库和用户提问向量化后的相似性检索增强：检索到的最相关的内容作为context和用户提问结合生成的提示词构成增强效果生成：提示词模板作为大模型新的提示词输入输出结果返回用户。
LLaMA Factory 是一个简单易用且高效的大型语言模型（Large Language Model）训练与微调平台。
