大模型企业实践系列分享（一）：大模型落地必先接入“企业知识”
近年来,伴随着人工智能技术的飞速发展,大模型(Large Model)也开始在企业管理和运营等领域得到广泛应用。无数实例表明,大模型对于提升企业知识应用能力具有巨大价值。但是我们也必须清醒地看到,大模型自身仍存在一些问题亟待解决。
目前大模型的训练主要基于公开互联网知识,对企业内部信息一无所知。而企业核心知识又无法公开,这使得企业无法直接应用互联网开放的、公共的大模型。为实现落地,大模型需要先接入企业内部知识库,通过学习适配业务场景。当前,很多接触大模型的企业处于观望试用阶段,正在寻找大模型的最佳落地方案。
由于缺乏对真实世界知识的约束监督,大模型很容易在推理时产生“自信的编造”,给出不准确的回答，因此，大模型在单独应用时的准确率仍有待提高。此外,大模型理解问句并生成回答的速度较为缓慢,无法满足企业对知识应用的实时性要求。更重要的是,利用大模型进行开放域问题回答时,企业的核心知识和商业机密很容易被泄露。
综上所述,接入企业内部知识库，提升大模型的回答质量和应用效率,实现内部知识的安全管控,都是大模型成功落地企业应用的重要保障。针对这一挑战,有一个行之有效的解决方案,那就是将大模型与企业内部知识库进行深度融合。
二、大模型与企业知识库融合的必要性与可行性
从各种角度观察和已经落地的实践证明,企业知识库是接入大模型的首选。第一企业知识库拥有大量业务数据，天然成为大模型进入企业最好的学习路径;第二，企业本身就需要对知识库进行搜索使用和日常维护，大模型的加入是在原有能力的基础上锦上添花，为虎添翼;第三，知识库的用户具有一定专业知识能力，会对问答结果进行专业性检验,避免错误回答的误导;最后,企业知识系统具有现成的技术和内容基础，与大模型结合，可以形成1+1>2的效果。
进一步来看,企业知识库存储了大量专业知识和业务数据,涵盖了企业内部的各种规则、流程、案例、产品、经验等。企业知识库中的显性知识和隐性知识,都可以通过企业知识库的结构化、非结构化知识等方式有效呈现,为大模型提供了规范化的学习素材。这无疑可以提供海量的优质问答数据,提升大模型对企业业务场景的理解能力。大模型通过不断学习企业知识体系,可以快速掌握企业知识体系,减少“自信编造”的错误回答。
与此同时,企业知识库中的显性知识和隐性知识,都可以通过企业知识库的结构化、非结构化知识等方式有效呈现,为大模型提供了规范化的学习素材。大模型通过不断学习企业知识体系,可以快速掌握企业知识体系,减少“自信编造”的错误回答。
相比开放域的互联网信息,企业知识库提供的结构化知识更为明确和准确,大模型充分学习这些知识后,其回答质量和准确性都将得到显著提升。这也使得大模型生成的内容更加符合企业业务需求。
另一方面,企业知识库基于内部网络运行,可以确保知识内容的安全性。大模型只需要在企业内部闭环中进行训练和使用,无需接触外部信息,因此有效减少知识泄密风险。
最后,企业知识库支持快速检索关键知识点的功能,可以大幅提升大模型的响应速度。通过与向量检索等技术手段的配合,知识定位仅需秒级时间,因此大模型生成回答的总时长可以大大缩短。
三、深蓝海域“大模型+知识管理”解决方案的成功实践
面对大模型与企业知识管理融合的迫切需求,深蓝海域通过自主研发,推出了企业级知识管理系统与大模型深度融合的解决方案。得益于多年在知识管理领域的深耕细作，深蓝知识库系统的以下突出特征，让大模型与之结合相得益彰。
1、智能平台基础
深蓝海域知识库系统原生具备智能平台模块，支持深度学习、自然语言、智能问答、原子化搜索，以及知识图谱，智能知识加工等智能能力，这些智能能力在产品和项目层面都与知识库的内容进行良好的适配整合，在此基础上叠加大模型能力是具备良好技术基础和实施经验。
2、知识体系完备、丰富多态
深蓝海域构建的企业知识体系,实现了企业分散数据、信息与业务知识的有效融合。知识体系通过知识抽取和知识表示技术,自动化完成了企业内部专业知识和经验的集成表达。基于知识体系,企业原有的数据资产得到重新组织和关联,知识价值得以充分释放。
同时,知识体系还为大模型的训练和优化提供了丰富的学习源。大模型在此基础上得到持续预训练,不断深化对企业业务场景和知识体系的理解,显著提升了其回答质量和准确性。
3、全文搜索和向量检索技术基础
深蓝海域通过向量检索等技术手段,实现了企业问题检索的精准化。向量检索可以准确定位信息中的语义单元,在海量非结构化文本中快速锁定关键知识点。
在深蓝海域解决方案应用的多个项目中,99.95%的问题能在2秒内得到解答,大大优化了知识获取的时效性。这为客户服务和业务决策提供了及时支持。
4、安全可控的知识应用环境
深蓝海域构建的知识应用环境全部运行于企业内部网络之中,对业务数据和知识内容实现了严密的访问控制和权限管理。
大模型的训练和应用全链路安全可控,有效降低了企业核心知识泄密的风险,保证了知识管理的安全合规。这使企业可以放心应用包含大模型的解决方案。
通过与大模型的整合实践与技术落地，深蓝海域实现了大模型到企业落地的首站——知识库系统的整合。在多家客户的实际使用中,基于深蓝海域解决方案构建的知识管理系统取得了显著成效:某大型进出口贸易企业使用该方案后,客户自助解决重复问题的能力得到大幅提升,问题自助解决率由21%上升到63%,减轻了客户服务代表重复劳动。在某制造企业员工智能问答平台，为员工提供各类企业管理制度、制造规范解答，日均问答请求达到数千个，为客户节约了大量人力和时间成本，提升了企业运转效率。
可见,深蓝海域在技术和实践上都已证明,大模型与企业知识库的深度融合,是推动企业知识管理实现新的突破的关键所在。相信在不远的未来,这种以知识为核心的人工智能赋能方案,必将在更多领域产生革命性影响。