🦊一分钟,了解灵析平台!
一、灵析平台介绍
在AI应用生成方面,JointPilot Studio针对政企客户场景提供简单易用的开发者工具,通过高效封装领域数据和模型资源、灵活接入各类能力组件及领域专业模型,赋能开发者进行复杂业务场景AI应用的快速编排和生成;
同时,JointPilot OPS实现了AI应用的统一运营能力,支持Copilot轻量化集成,配套Commander指令大模型通过意图理解增强、任务生成、指令调度等高级推理能力实现统一入口,通过自然语言灵活调度不同应用。
此外,围绕可信的JointPilot Graph实现了统一接口、完善的权限管控和合规约束。
JointPilot灵析旨在为客户和生态提供赋能大模型应用落地的全过程AI应用一体化平台。
二、平台架构
1.
(1)模型内核:提供稳定、可靠、持续优化的模型能力
1.
2.
3.
1.
2.
3.
4.
2.
(1)Studio
1.
2.
3.
1.
2.
3.
(1) 立足具体行业,深入行业业务特点,通过jp平台沉淀应用及实施经验,为客户提供行业专业解决方案。
(2) 立足产品,聚合多行业多场景共性,打造通用产品。最大程度满足跨行业专业产品需求。
三、亮点功能
1.
JointPilot灵析平台提供了应用快速编排工具,支持自然语言交互生成应用的方式,界面友好灵活,无需掌握编程工具即可实现自主开发。
• 标准应用套件:内置智能问答、大屏问数(BI)应用套件,极速搭建大模型AI应用,秒变达人;
• 强大能力管道:统一标准,轻松集成各种模型、多模态、算法能力;
• Agent能力:支持Tool Choice引入外部API工具,实现AI能力增强;
• 高效数据能力:持续强化数据驱动能力,如NL2SQL数据分析、RAG知识检索增强、Prompt+SFT专业模型调教等;
2.
JointPilot灵析平台提供了AI应用运行监控台,让用户能清晰、直观的感知到大模型的调用情况。
• AI应用使用量分析:跟踪并记录AI应用的用户使用量情况,应用价值精准判断;
• AI应用用量分析:实时统计AI应用运行中调用大模型的token用量,并以时间维度形成时段用量趋势分析;
• 算力告警监控:帮助用户诊断硬件资源配套情况,实时监控AI应用并发情况,高并发事件及时告警。
3.
JointPilot灵析平台提供了知识采集、加工、融合、校验等服务工具链,帮助用户沉淀领域知识,为构建AI场景应用提供广泛的数据支撑。
• 非结构化知识:支持各类知识文档、问答对导入,通过向量数据库和大模型进行知识重构,构建专业知识库;
• 结构化数据:对接本地数据表、数据库,获取用户结构化数据,让大模型获得更全面的洞察力;
• 问答对:大模型自动解析文档生成问答对,以便在多轮对话、知识推理等场景中被调用;
四、客户价值
1.
凭借JointPilot灵析平台平台内置的丰富AI能力组件及服务,以及快速编排工具,帮助客户快速生成AI场景应用,相比传统定制开发提高百倍效率。
2.
JointPilot灵析平台具有极高的灵活性,编排工具可通过API、数据库连接等方式快速集成打通原有平台,生成的AI应用也可通过Copliot轻应用、标准API对接等方式被第三方系统轻松集成。
3.
JointPilot灵析平台提供的共性能力服务,还可以帮助客户实现IT资产的能力组件化,优化IT投资,提升IT资产复用水平。
4.
遵从信息安全等级保护三级要求,平台采用符合要求的网络安全结构,确保客户涉密信息不出内网,对调用时传递到华为云盘古大模型服务的数据要求脱敏,所有用户输入的数据和大模型返回的数据进行敏感内容筛查,确保不出现“意识形态”错误等问题。
修改于 2024-01-24 14:25:17