解放号吧 关注:250贴子:586
  • 0回复贴,共1

2023开放原子开发者大会|中软国际JointPilot平台助力

只看楼主收藏回复

黄伟聪以问数大模型在典型企业级场景落地的实际案例---构建企业级运管数据分析应用,来解释大模型+PBC这一AIGC应用生成新范式是如何打造可信可运营的企业级应用的。主要包含三个方面:
第一是持续积累PBC,构建可运营基础
第二是提升问数大模型的基础能力
第三是通过产品上的过程可追溯,用户可干预,进一步提高应用生成结果的可信度。
1、持续积累PBC,构建可运营基础:在经营业绩汇报、财质一体化汇报、经营业绩指标分析、财质一体化指标分析四个场景之下,运管人员希望有个统一指令输入入口,能够统一识别用户意图,分发需求至执行微应用。中软国际基于大模型的AIGC应用运转原理和机制设定,对工作任务场景进行了拆解,场景运转机制分为五步:在用户向JointPilot平台输入指令后,先进行Prompt 自动增强提示词,让大模型理解用户的指令。再经过意图理解和任务规划,去调用合适的PBC,进行合规性矫正后,最后JointPilot平台再把结果反馈给用户。把经营业绩、运营指标、成本等数据资源和分析模型、预测模型、归因模型等模型/组件集成封装成PBC,不断沉淀可积累、可复用的PBC,从而构建可运营的基础。
2、提升L2大模型的场景支撑能力:问数大模型解决方案是中软国际AIGC方向的主要产品。中软国际基于业务场景不断精调提升大模型在指令理解、文档检索增强和数据分析等多方面的核心能力,其中通过自然语言生成精准的数据查询语句(NL2SQL)的能力最为关键。首先,从模型尺寸、代码能力、综合评分等多个维度来选择基座模型,然后通过组织专家团队编写专业的训练集和测试集,并结合AI自动扩写,开源数据集等手段来进一步扩充,进行模型精调训练,不断迭代提升大模型的准确率。最后还需要进行评测工作,多轮测试迭代,确保大模型的核心能力可支撑企业的实际应用场景。
3、实现过程可追溯,用户可干预,进一步提高AIGC应用生成的可信度:在此基础上,通过应用交互增强进一步提升可信度,意在通过数据分析结果可回溯生成过程和用户可干预。做完这些工作,最终完成企业运管数据分析助手的构建,企业运营人员可使用自然语言,通过与JointPilot平台的多轮会话的方式,实现实时分析企业的运营管理数据,发现潜在问题。通过这样的一个完整案例分享,阐述了如何通过大模型+PBC新范式打造可信、可运营的大模型驱动数字新引擎。在由0和1编织而成数字世界里,开发者就是无所不能的“创世者”。中软国际祝愿开发者们能在广阔天地中乘风破浪,大有可为。过去,中软国际拥抱美好的开源时代,充分吸收开源社区的优秀成果和实践,把实践过程中的研发经验与心得分享至社区。未来,中软国际也将积极拥抱开源,与开源社区形成更多良好互动,也欢迎更多的开源社区开发者、爱好者与中软国际交流互通,推进开源生态健康发展,用创新思维和无穷灵感共同推动世界的发展和进步。


IP属地:北京1楼2024-01-29 09:44回复