零代码基础也能实现！大模型变身AI售前助手，瞬间解读百页万字标书

编辑日期：2024年09月24日

元脑启智EPAI：简化大型模型应用开发

大型模型正式投入使用，化身为AI售前助手，已经开始为IT售前人员减压！

在浪潮信息公司内部，一款名为“元小智”的AI助手已经成为员工们的得力帮手。

它不仅能在几秒钟内读完上百页的招标文件，还能轻松应对产品资料问答、信息比对、查询检索等工作。

过去需要人工几天才能完成的任务，现在只需几分钟就能搞定。

而且，模型微调和应用开发过程全程无需编写代码，售前团队一人一月即可完成，大大提升了工作效率。

售前工作是IT行业解决方案的重要组成部分，需要具备多种技能。只有“三头六臂”的全能选手才能胜任——

不仅要有扎实的IT基础知识，还要具备良好的市场敏感度、快速学习能力和出色的沟通技巧。

在IT行业的销售过程中，招投标是一种重要的形式，因此售前人员需要投入大量精力来处理投标工作。

他们首先要解读并分析招标文件，准确理解和回答其中的技术需求，并据此撰写符合招标要求的文件。

然而，交付时间通常非常紧张，此外，标书制作还面临诸多挑战：

招标文件内容繁多且细节复杂，导致分析耗时且容易遗漏关键信息。
招投标业务时间窗口紧迫，必须严格遵守业务规则，容错率低，对文件内容的准确性要求极高。
业务人员需要对公司产品、技术白皮书、标书和解决方案等有全面了解。
这些材料更新速度快且分散在不同部门，信息整合与查阅成为新的难题。

由此可见，仅仅标书一项工作就足以让售前人员忙得焦头烂额，更不用说还有其他一系列任务。

为了应对这些困难，人们开始考虑用机器代替部分人工，以减轻售前人员的压力。

基于大型模型开发的AI助手在处理长文本方面具有天然优势。但在实际操作中，很快又遇到了新的问题。

首先，无论对于个人还是大型模型来说，要胜任售前岗位，深入了解自身产品的信息是必不可少的。对于大型模型而言，这一过程主要是通过建立专用的知识库来实现。

例如，一家大型IT公司可能拥有近一千种产品，从产品迭代型号到插槽的数量和板卡规格等细节，所有这些信息都必须精确无误，以便大型模型能够有效地帮助售前团队完成繁琐的产品信息查询工作。

然而，由于这些信息非常复杂，并且原始数据的结构化程度较低，因此提取这些信息并构建专用知识库是一项挑战。

即便建立了这样的知识库，基础模型加上检索增强生成（RAG）的方法也未必能满足售前工作中所需的专业能力。售前文档往往需要遵循特定的专业格式和术语，虽然RAG模式在回答问题时有一定的准确性，但这并不意味着它理解了招投标工作的业务逻辑。

解决这一问题的一个方法是对模型进行微调，但获取高质量的微调数据本身就是一个难题，而且还需要开发人员拥有丰富的大型模型微调经验，这通常意味着较长的研发周期和较高的试错成本。

此外，招投标文件中包含大量的企业隐私数据，因此必须确保数据的安全性，不能将其上传到云端使用公共模型进行训练或推理。这意味着企业的大型模型必须进行本地化私有部署。

这些要求综合起来，涉及到多个环节和工具，使得此类模型的开发既困难又耗时。尽管售前人员最了解业务场景，并且对这些痛点了如指掌，但他们通常不具备编写代码的能力，更不用说开发定制化的应用程序了。

不过，好消息是，如今大型模型的应用开发已经变得更加简单——即使没有技术背景，只要明确了需求，并经过简单的学习，也可以开始开发。

在浪潮信息内部，售前部门已经利用大型模型开发平台工具开发出了名为“元小智”的售前AI助手，针对售前工作中的各种痛点提供解决方案，从而大大减轻了员工的工作负担。

“元小智”可以一键处理招标文件，并全面且准确地解读其中的重要信息。

根据项目需求，“元小智”能够高效识别数万字、上百页的招标文件，其对招标关键信息的识别准确率达到了85%，并且能在几秒钟内提取出客户的核心需求。这项技术将原本需要几天时间完成的招标文件分析工作缩短至几分钟，大幅提高了业务人员的工作效率，减少了所需的时间。

“元小智”还具备智能问答功能，成为浪潮信息售前团队的“百科全书”，帮助进行产品信息查询和专业内容的生成。通过这一功能，售前人员可以迅速获取浪潮信息全系列在售产品及其解决方案的相关内容，包括产品的优势和核心参数等支持信息，从而避免了在大量产品文档中逐个查找的繁琐过程。

知己知彼，方能百战不殆。除了了解自身产品体系外，还需掌握同类产品的信息，以便有针对性地制定策略，在竞争中占据优势。“元小智”可以通过网络检索功能查询同类产品的状况，帮助售前人员快速了解相关信息，节省了一半以上的分析时间，总体上将售前投标工作的速度提升了3到5倍。此外，联网检索功能仅在必要时调用，并且与企业数据库隔离，确保了数据的安全性。

“元小智”背后的支撑平台是浪潮信息的企业大模型开发平台——元脑企智EPAI（Enterprise Platform of AI）。

数据处理工具可以自动解析结构化数据（例如表格），并将其转化为标准格式的知识库条目；对于非结构化数据（例如纯文本信息），元脑企智EPAI能够自动提取有用信息并进行高效存储。浪潮信息售前团队使用元脑企智EPAI实现了数据的自动化收集、整理、清洗和索引，从包含1500多份pdf、docx、doc、xls等多种格式的业务资料、企业产品信息与方案文件中抽取数据，构建了涵盖8大业务线所有在售产品的知识库。

同时，通过有效融合RAG技术，将复杂的企业知识转化为强大的模型增强功能。对于大型模型的微调，元脑企智EPAI提供了全链路数据治理工具，可以从各种类型、复杂场景和大规模的招投标文件、产品信息、行业报告中自动抽取生成微调数据。

使用元脑企智EPAI平台的评估模型，对生成的每一条微调数据进行自动评分，去除低质量数据，通过格式过滤进一步提高微调数据的质量，减少数据筛选和处理的时间和成本。经过多次重复操作，最终形成数十万条高质量微调数据，利用元脑企智EPAI平台的无代码微调工具进行模型微调，经过多次迭代后成功提升模型的专业能力，构建符合业务需求的专用大型模型。

元脑企智EPAI还提供了多种应用开发工具，无需编码即可快速开发本地应用，平台支持多种参数设置和修改，并提供API调用、聊天页面对话等多种交互方式，实现即开即用。此外，元脑企智EPAI及其打造的大模型应用可完全本地化部署，并配备多种安全技术，确保数据安全。

尽管“元小智”是浪潮信息的内部应用，但借助其背后的元脑企智EPAI提供的数据处理工具、无代码微调工具、知识库检索工具等，其他企业也能建立自己的“元小智”。不仅如此，元脑企智EPAI平台还是加速大型模型落地的有效工具，提供了一整套企业大型模型实施解决方案。

零代码基础也能实现！大模型变身AI售前助手