AiDD研发数字峰会-北京站

议题提交

联合出品人：

黄川

百度搜索主任架构师

马永亮

澜舟科技合伙人、算法&应用VP

搜索产研技术负责人。在搜索引擎和分布式系统有着十几年的研发经验，负责过百度阿拉丁、视频搜索、电商搜索等的工程架构，目前主要研究方向涉及AI原生应用、基于LLM的Agent等领域。

目前负责澜舟的大模型技术和应用落地, 包括 RAG、搜索、问答、报告生成、视频会议分析等。哈尔滨工业大学计算机硕士。
曾就职于阿里、微软等公司。在微软工作十余年, 担任微软必应搜索首席开发经理。具有丰富的研发经验。

AI原生应用开发

本论坛探讨基于AI技术、LLM开发应用软件的思想、方法、框架及其实践。将聚焦于如何利用AI技术（深度学习、LLM等）开发创新的数字人、智能对话系统以及结合文化创意的应用等等，包括基于自然语言交流、语音交流、情感识别和新形式的表达等AI技术，开发出颠覆性的、更加个性化、让人耳目一新的AI原生应用软件。

百度GBI：企业级Agent架构在商业智能产品上的探索

龚建

百度云AI原生产品方向策略总负责人

内容简介：

在搭建企业级AI原生应用时，无差别地把所有信息输入给大模型并调整prompt会面临维护性差、调试困难、可控性差、复杂ICL能力弱等诸多问题。因此，通过企业级Agent架构，区分不同Agent的角色与分工，维护多种类型的记忆状态与通信模式，综合实现多种类型的任务规划与调度，进而串联复杂的工作流，是在实践中行之有效方案。本次分享将从企业应用的实际需求出发，探讨Agent策略架构落地过程中的种种挑战，并与大家交流相关解决思路。

演讲提纲：
1、Agent架构发展现状
2、企业级Agent架构面临的挑战
3、商业智能产品应用Agent架构案例
4、Agent架构发展趋势探讨

听众受益：
了解多智能体策略架构搭建的关键技术点

硕士毕业于北京航空航天大学，百度云AI原生产品方向-策略总负责人。知名AI类公众号深度学习专栏主编。专注基于预训练大模型算法的研究与应用，曾负责百度文心（ERNIE）平台及相关算法的研发工作。在大模型训练和基于大模型的智能对话、语义检索、推荐算法等应用方向有多年研究与应用经验。

大模型时代的流程编排工具——从Aether到Promptflow

张醒之

微软高级研发工程师

内容简介：

数据挖掘、治理与知识工程中涉及大量的日趋复杂的数据处理工作流；而流程编排工具可以用于设计、管理、监控和优化这些复杂的工作流。本演讲主要介绍数据处理过程中使用的流程编排工具逐步演进的过程，分析流程编排工具的功能与数据处理需求的关系，进而对流程编排工具的未来进行展望。

演讲提纲：
1、首先介绍流程编排的基本概念以及流程编排与数据处理之间的关系
1）流程编排的定义
2）整体而言，机器学习技术越是发展和广泛应用，对数据的需求越高——更大的规模，更好的即时性，更高的准确度
3）流程编排工具可以赋能从业者更好地进行数据处理工作流的生命周期管理
2、随后介绍数据处理中使用的流程编排工具的演进过程
1）基础的流程编排工具通过模块化和自动化提升数据处理在设计上的灵活性和执行上的效率
2）随着数据处理流程变得复杂，类似于Aether 这样的工具提供了可视化界面来使得数据处理流程更加易于理解；提供了原始的模块社区来提高模块的可复用性
3）当数据处理流程复杂到需要多方协作迭代时，类似于AzureML SDK的工具提供了代码优先的体验，提升了版本管理和多人协作的体验
4）在大模型时代，数据处理流程中需要加入有大模型参与的节点。在这些节点上，由于大模型结果的不确定性，需要通过快速迭代来确定节点的处理逻辑。类似于Promptflow的工具为此提供了更好的支持，如高级的抽象，丰富的预置模块，更好的测试体验等；同时，这样的特殊节点也可以加入原有的数据处理流程，作为一个可复用的单独模块存在
5）尽管整体的数据处理流程保留了原本的复杂性，当目标限定为需要大模型参与的节点时，节点的复杂性往往并不高。在Promptflow中新增了FlexFlow这样的概念，使得任意的函数也可以利用Promptflow中丰富的预置模块，享受更好的测试体验，从而进一步提升数据处理的灵活性
3、最后根据未来数据处理流程发展的几个可能走向对流程编排工具的未来进行展望
1）如果通用大模型/领域大模型不够便宜/效果不够好，流程编排工具可能需要更好地整合推理与训练的工作流
2）如果出现了更加标准化的方法，使得从业者可以借助领域知识干涉数据处理过程进而大幅度提升数据处理效果，会对流程编排工具的易用性提出更高的要求

听众受益：
1、了解流程编排工具在数据处理中起到的作用，从而更多地在日常实践中使用流程编排工具，提高工作效率
2、了解流程编排工具中各种功能设计的出发点，从而可以更好地根据实践中的具体需求选择甚至开发流程编排工具

前Bing算法工程师，后转向流程编排工具的开发与落地，现AI Platform研发工程师，参与开发了微软的两代流程编排工具AzureML和Promptflow

深入探索AI原生应用的构建与实践

黄斌

用友（畅捷通）基础技术研发总监

内容简介：

本次演讲将深入探讨AI原生应用的构建基础与实践操作，特别是在RAG（Retrieval-Augmented Generation）和Agent模式的应用中。我们将分析LLM（Large Language Models）在应用形态上带来的创新变化，并通过实际案例，展示如何搭建智能问答系统和基于Agent模式的应用。

演讲提纲：
1、AI原生应用形态的变革
用户界面的演变：从传统UI到对话式交互
业务逻辑编排的新范式：利用LLM实现更加灵活的业务流程
2、构建典型的智能问答应用：RAG+的应用
如何利用高级编排技术支持客服问答系统，实现Sug提示、多路召回、近似直接回复、多角色LLM在精细化问答系统中的应用实例
3、Agent模式应用的基础构建：动作的分类与应用
动作的多样性：API调用、前端函数、RAG知识库、子应用集成
4、Agent模式应用的高级构建实践
结合前端函数、后端API和RAG知识库，构建出能够智能诊断环境问题的应用案例

听众受益：
参与者将获得关于AI原生应用构建的深刻见解，以及实践中的启示和策略，从而能够在自己的领域中更有效地利用AI技术

十五年软件及互联网技术产品从业经验，曾在360、美团等大厂参与AI平台、外卖搜索等智能工程架构，在企业级软件开发、微服务治理、搜索工程、AI平台等领域有丰富的经验。

向量数据库在AI快速爆发的时代中的实践与发展

谢宇

腾讯云向量数据库技术负责人

内容简介：

随着AI的快速发展，向量数据库脱颖而出，越来越多的企业希望深入认识向量数据库在AI时代的主要用途和正确实践。然而很多客户对于向量数据库具体的应用场景、体验、服务边界、最佳实践、企业数据中的定位、性能、成本、高可用、未来方向的确定性等等存在困惑。Tencent VectorDB通过对大量客户的服务中获得的实践与总结，同时以当下诸多客户所遇到的核心痛点为切入点，希望去帮助更多的客户挖掘到AI时代非结构化数据的价值，最终在AI变革时代的赢得企业成功。

演讲提纲：

1、AI时代向量数据库的定位

2、向量数据库在AI时代的典型场景

3、向量数据库的常见痛点和最佳实践

4、向量数据库现状和未来趋势

听众受益：

理解向量数据库在行业中目前的定位和实践方法，明确什么样的业务使用向量数据库来产生最终价值；掌握常见向量数据库面临的问题和同行的解法，帮助自己业务更快地获得成功

从事数据库领域工作10+年，深入理解多种数据库的技术和客户最佳实践，擅长数据库生态建设。现在负责腾讯云向量数据库与AI生态建设，致力于打造非结构化数据服务，帮助客户在AI时代获得成功。

AiDD峰会

K+峰会

联系我们