AI 大模型：从单一实体到复杂系统的转变及在业务流程中的应用

aizixun8

介绍

随着技术的不断进步，AI大模型已经从单一的、独立运行的实体转变为可以无缝集成到各种业务流程中的复杂的、多功能的系统。

例如：

- (RAG) 模型的出现标志着一个新时代，它们能够结合检索和生成功能，提供更精确和丰富的信息响应。该模型不仅能够生成文本，还能够从大量数据中检索信息，为用户提供更深入、更准确的答案。

在可视化流程编排方面，现代人工智能应用框架允许非技术用户通过直观的图形界面设计和部署人工智能工作流程。这种所见即所得的方式大大降低了技术门槛，让企业能够快速适应和利用人工智能技术，而无需深入了解其背后的复杂机制。

为了进一步简化集成流程，接口统一成为AI应用框架的关键特征。这些框架通过提供标准化的API，保证不同AI服务之间的兼容性和互操作性，使开发者更容易将AI功能嵌入到现有的业务平台中。

此外，多Agent协作是AI大模型应用框架的又一重要进展。在这种设置中，多个人工智能代理可以同时工作，协作处理复杂的任务和工作流程，这在客户服务、项目管理和在线协作工具中尤其有价值。

最后，生成和执行代码的能力已成为人工智能模型的一部分，极大地扩展了其应用范围。这些模型不仅可以理解和生成编程任务的自然语言描述，还可以自动编写、测试和部署代码，从而彻底改变了软件开发和数据科学领域。

这些进展不仅展示了人工智能技术的潜力，也为各行业充分利用人工智能的力量提高效率、降低成本、创新服务提供了实用工具。随着这些技术的不断成熟和发展，我们可以预期人工智能将在未来的数字化转型中发挥更加关键的作用。

和

其实作者这里提到的功能都是基于最近的两个大型模型应用框架： 和 。这两个框架各有其独特的优点和特点。

◐

其优势在于支持RAG模型，实现可视化流程编排，并提供统一的接口，可以轻松嵌入到各种业务系统中。这些功能在处理复杂的信息检索和生成任务方面具有出色的性能，同时还提供高度灵活和可定制的解决方案。

◐

其核心功能是多Agent协作以及代码生成和执行。这使其能够处理涉及多个人工智能代理的复杂任务，并自动编写、测试和部署代码，这对软件开发和数据科学领域具有重要意义。

然而，正如中国古话所说，“鱼与熊掌不可兼得”，到目前为止我还没有看到一个系统能够完全集成这些功能和优点。

因此，对于实际业务来说，通常需要结合使用 和 来获得最佳效果。

接下来我们将深入介绍这两种模型应用框架的特点和优势。

01

概述

为什么选择？

在很多类似的框架中，我们首先被选择作为我们的工具。

主要原因是提供的 RAG 功能及其可视化流程配置的简单性。这两个特性使得它对于商业用户来说非常友好，即使是没有编程背景的人也可以轻松上手。

基本原理和设计理念

它是一个开源框架。其设计理念主要是为了降低技术门槛，让非技术背景的业务人员也能利用强大的GPT技术。

其核心组件之一是基于 RAG 技术构建的知识库。

用户可以将各种格式的文档，如文本文件、PDF、Word文档或网页内容导入到知识库中。

该内容被自动分割、矢量化并存储在知识库中，以进行高效的模糊检索。

主要功能及应用场景

核心功能是可视化流程编排工具，支持知识库检索、问题分类、文本提取、AI对话、HTTP请求等多个模块。

通过这些可视化操作模块，用户可以轻松实现复杂的工作流程。

官方文档列出了一些实际应用案例，例如接入谷歌搜索、实验室预约系统、用于绘图和构建全能助手等，展示了其广泛的应用潜力。

02

概述

为什么选择？

在开发数据查询应用时，尽管使用了它，发现它准确满足用户需求的概率仍然不高。

为了提高成功率，引入多个独立的AI对话模块进行基本的文本提取或分类，但这牺牲了上下文的连贯性，影响了用户体验。

为了充分利用模型性能并保持上下文连贯性，我们转向了当前领先的多Agent协作框架。

基本原理和设计理念

通过旨在简化复杂的法学硕士应用程序开发的多代理对话框架来简化和整合工作流程。

它基于两个核心概念：会话代理和会话编程。会话代理允许开发人员快速创建具有不同角色的代理，这些代理能够进行多轮对话、自主通信或在需要时征求人工输入。

对话式编程通过定义一组具有特定功能的代理并通过对话控制它们的交互来简化应用程序开发过程。

这种方法结合了自然语言处理和传统编程，能够构建具有不同对话模式和代理行为的应用程序。

主要功能及应用场景

主要通过多代理对话框架支持下一代法学硕士应用程序的开发。

它提供可定制的代理和会话式编程范式，大大简化了开发流程，支持静态和动态会话模式，可以根据应用需求进行定制。

它已应用于多种场景，如数学问题求解、多智能体编码、增强检索聊天、动态群聊、ALF聊天和会话象棋等，展示了其简化和提高多智能体性能的能力。代理应用开发潜力大。

VS

作者准备了10道题，分别测了成功率：

1、查询23年“销售收入L1”指标各月的具体数据，并以表格的形式展示。

2、查询“Y_销售量”、“Y_月均库存”、“Y_库存周转天数”三个指标的2023年数据。

3、查询“Y_销售量”、“Y_月均库存”、“Y_库存周转天数”三个指标的2023年数据，并以折线图的形式展示。

4、查询“”指标2023年月趋势图。

5、查询“销售收入L1”指标“街边店-商圈店”2023年10月的销售收入。

6、查看“1032店”2023年产品销量走势。

7、查看2023年各商圈开盘库存对比图。

8、查看2022年广州门店销售收入走势。

9、查询2023年累计交易额最大的员工。

10、查询2023年1032店、956店、639店开业库存对比图。

测试结果表明，基于gpt-3.5-turbo-1106，在不考虑网络中断的情况下，实现用户需求的概率分别为40%和50%。但优化和调试时间比较短，还有一定的改进空间。

优点和缺点

优点

◐ 专为业务人员设计，用户体验简单直观，流程配置界面操作简单，提供全面的官方文档。

◐ 其知识库开箱即用，并支持外部 API 访问。

◐ 易于部署并提供配置选项。

◐ 代码开源，高度可定制，适合商业用途。

◐ 支持无需登录即可部署多种聊天界面，轻松融入各种业务系统。

局限性和缺点

◐ 在流程设计过程中，连接往往会交叉或覆盖模块，使复杂的流程在视觉上显得混乱。

◐ 不支持循环流程设计。如果进程执行失败，需要用户反馈后才能重新启动。

◐ 多个AI对话模块一起使用时，上下文共享逻辑不清晰。

◐ Agent之间的调用逻辑简单，仅支持单一参数传递，上下文共享不清楚。

优点和缺点

优点

◐ 原生支持多Agent交互，可以用最少的用户提示完成任务◐；

◐ 支持代码生成和执行，出现错误时可以自动纠正并重试；

◐ 配置简单，无需复杂的提示词设置。

局限性和缺点

◐ 偏向研究目的，没有内置UI，需要手动与第三方聊天界面集成，例如；

◐ 依赖大型模型的性能，模型如果不返回结束标记，可能会导致循环；

◐ 没有内置知识库，需要开发者实现，使用需要开发背景。