ai+agent+与行业融合应用的前景及创新应用案例+|infoq《极客有约》分析，融合创新应用案例模板

作者| 李冬梅

嘉宾| 蓝马科技创始人兼首席执行官周健；蓝马科技联合创始人周远健| InfoQ 社区编辑、高级算法专家吴少杰。

数字化、智能化时代，人工智能作为人工智能的重要领域，已经渗透到各个行业领域，引发了前所未有的行业融合革命。 AI智能体以其智能交互、自主学习、灵活适应等特点，在各行业展现出巨大的潜力和价值。

人工智能代理是一个相对较新的概念，在医疗、金融、教育、零售等多个领域集成应用具有广阔的前景。本期《极客有约》，我们邀请了蓝马科技创始人兼CEO周健和蓝马科技联合创始人周远健，共同探讨AI Agent的当前实现和未来发展趋势。我们还将分享一些人工智能代理应用的成功案例，并讨论如何解决人工智能代理应用可能出现的挑战和问题，例如数据隐私、算法透明度等。

InfoQ：您如何看待AIGC这两年带来的技术变革？

周健

：我认为科技领域目前正在发生重大变化。过去，人们担心深度学习会面临瓶颈，但从GPT-1 到GPT-3，特别是去年11 月30 日ChatGPT 推出以来，Sam Altman Society 很快达成了共识，他表示： “未来五到十年，我们预计大规模模型核心计算能力将成为智能基础设施的主要驱动力。”去年我们已经三次降价。这一趋势与过去CPU价格的下降类似，将成为产业发展的强劲动力，生产力将随着智能化的发展而快速提升。

另一方面，OpenAI被认为正在不断改进其算法和数据，这让人们猜测可能会有Q*算法或GPT-5等新进展。随着算法、数据和计算能力的提高，我们可以期待智能的提高。如果您将智力视为一般编码能力的衡量标准，那么进步可能是指数级的。这意味着很多业务和运营将在ToB和ToC领域发生重大变化。兰玛之所以被赋予这个名字，是因为这意味着巨大的变革即将到来。我们相信，就像海啸袭击海岸一样，这种转变将迅速改变我们的工作和生活方式。

周元肯

: 从技术角度来说。近两年，AIGC似乎最初主要出现在成像领域，比如Stable Diffusion和Midjourney，这当然带来了与之前人工智能不同的东西。在我看来，以前的人工智能主要侧重于理解，可以帮助回答选择题、对错题或填空题。 AIGC 的出现可能会给我们一些处理问答题的能力。在原始图像领域，该功能可能仍然仅限于某些类型的问题和答案。

继去年ChatGPT 取得巨大成功之后，我们不仅允许大规模语言模型在单个任务中执行问答任务，还允许在更通用的领域中执行问答任务，这些任务本质上是以下任务的原型：我发现这是可以做到的。这种智能原型开启了整个想象空间。此前，人工智能从收集数据到训练模型再到不断迭代，整个过程极其耗时。现在大型语言模型已经具备了一定的通用性，可以通过简单的提示工程来完成一些常见或者相对简单的场景中的任务。毫无疑问，这将大大提高生产力。

InfoQ：请简单介绍一下蓝马科技的背景，为什么选择AI赛道，以及看到了哪些机会。

周健

： 蓝马科技的创立过程中有很多巧合和机遇。去年年底，为了应对整体经济和投资环境的重大变化，我当时所在的公司内部对于投资人工智能业务的看法存在很大分歧。当时我就想，按照这个速度，我可能无法开展AI业务，所以我考虑了创业。

RPA领域似乎有很大的自动化潜力，所以你最初的想法可能是在自动化方向。恰巧的是，当OpenAI 在去年11 月30 日发布ChatGPT 时，我们突然意识到，这些“昂贵”但传统的自动化可以通过对大规模语言模型的支持轻松实现。现在看起来很简单，但实际上这个过程中我经历了很多迭代和反思。我们最初的想法是在大规模语言模型之上构建一个超自动化平台，这个方向是我们仍在努力实现的目标。

InfoQ：AI代理到底能解决什么技术问题？

周元肯

：我认为真正的特工的关键点之一是一种独特的技能：“工具使用”，或者说使用工具的能力。这也和我一开始提到的一点有关，大规模语言模型具有一阶智能的一些特征。更大的语言模型带来的主要变化是它可以让你充分利用模型本身的能力。它不仅仅是执行单个任务，而是能够与多种工具结合使用，例如调用RPA、API 或其他工具。更聪明地工作。过去，纯粹的建模方法需要付出巨大的努力才能完成任务。然而，它可以在现有的大规模语言模型框架和一些工具中轻松实现。如果脱离了这种能力，我们很可能无法展示我们智力的一面，而且我们在技术上也会变得不那么独特。

周健

：前面我们谈到了一些大规模的语言模型变化，主要是从技术供给的角度来看。代理的概念其实在人工智能领域很早就被提及。有些回到过去的人工智能理论，比如马文·明斯基提出的“心灵社会”。该理论认为，当人类执行某些任务时，例如驾驶，它们实际上可能是自动执行的。您可以完全专注于驾驶，但同时您可以考虑其他事情，例如工作或与家人交谈。这里的关键概念是自主代理，即自主执行任务的能力。从自主执行的角度来看，未来的软件可能会在一定程度上摆脱当前的限制，变得更加机器人化。

事实上，未来的软件需要具备大规模语言模型的语言理解能力，才能理解用户并与用户交互。同时，自主理论指出，软件本身具有一定的领域知识，能够制定计划并提出建议，评估计划的质量，执行计划，并在遇到困难时进行调整。软件本身变得越来越复杂。知识分子。

从人类的角度来看，这些问题需要更深入的思考，比如人工智能未来是否会变得有知觉、进化成硅基生命形式，或者可能与人类竞争。但至少从社会角度来看，这是一个充满可能性的领域，不仅是人与人工智能主体之间，而且是彼此交互的主体之间，无论是生产方还是消费方。从技术角度来看，我们刚才所描述的在逻辑上是可行的，但目前这些技术的成功落地还需要进一步的资金投入和业务形态的调整，以及相应的模式调整。

兰马科技AI Agent自动化平台技术实践InfoQ：请介绍一下兰马科技AI Agent自动化平台的实现情况。

周元肯

：创建蓝马科技的初衷是打造一个基于大规模语言模型的自动化平台，最终目标是打造一个分为三个层次的平台。

首先有一个基本的底层人工智能功能层，然后是中间代理构建层，然后是其上的一些特定业务应用层。事实上，我们不是逐层构建它们，而是专注于将它们连接到现实世界的业务场景。我们与客户密切合作，了解他们的实际业务场景，并根据他们的需求定制平台的功能。

我们平台的核心是提供一种对话格式，允许用户通过自然语言进行交流。同时，我们也在考虑提供结合自然语言和图形用户界面的CUI表单，以更高效地满足用户需求。在搭建平台的过程中，我们遇到了一些挑战，主要集中在两个方面：客户的私有化需求和稳定性问题。

客户往往期望平台能够提供私有化的解决方案，但当涉及到数据时可能需要进行微调，这是一项复杂的任务。您客户的数据可能不完整，因此您需要与他们合作，将您的领域知识与数据相匹配。私有化也带来了计算能力的问题，因此我们还提供租赁机器的选择以增加灵活性。

另一个挑战是平台稳定性和性能。我们正在使用

综合人工智能

这个想法是强调象征主义（基于符号和规则的方法）。即要引导系统，必须提前组织好用户的知识结构和推理分析结构。通过这种方式，我们可以更好地解决大规模语言模型应用中的“错觉”问题。

总的来说，我们的平台不仅提供基础的AI能力，更注重与现实业务场景对接，满足客户需求。在私有化和稳定性方面，我们通过与客户合作、提供机器租赁和采用整体人工智能思维来应对挑战。

周健：

我们长期以来一直专注于如何从自动化的角度模仿人类技能。我们认识到当前的大规模语言模型需要评估其智力极限。因此，我们对比了AutoGPT、MetaGPT等几个AI代理框架，发现他们的概念和我们的不太一样。这些主要是基于大规模语言模型进行理解。

相比之下，我们更注重核心业务逻辑的编写，我们的代码是有效的。我们坚持传统的工程方法，并结合Java、Python、大型语言模型等代码，为您提供物有所值的最佳性能。与其他框架（Langchain、MetaGPT、Dify 等）不同，它专注于业务逻辑的本质，并首先专注于编写代码。从编码的角度来看，这被认为是100% 准确的。例如，无论是工资单还是银行转账，我们都不想接受大型语言模型“预测下一次对话”带来的不确定性。因此，专家知识和技能应该通过编码或传统数据库以某种方式实现，然后依靠大规模语言模型的语言理解能力进行交互，从而提高技能水平，从而突出我们如何能够更好地与企业进行协作。前线。成员数量可能没有那么大。总体而言，我们的理念是通过专家指导我们的人工智能代理来增强和提升一线业务人员的能力。

InfoQ：目前，随着大规模模型的发布，AI Agent的应用层出不穷，两位老师如何看待这个问题？

周健

：这个空间的主要问题是底层技术突然带来了一波巨额利润。这可能是由于当今社会信息传播速度加快，以及像ChatGPT 这样的格式已经让每个人都可以使用。要求人们尝试的社会影响是巨大的。对于任何基于大型模型开发应用程序的人来说，这实际上是一个巨大的优势，就像突然开启了一个新时代。现在很多大公司都在尝试探索它的边界和应用，这在某些方面是一件好事。

另一方面，虽然我们涉足这个行业很多年，但实际执行起来还是遇到很多困难。正如AutoGPT 所说，“AI 需要走多少步才能毁灭世界？”这里有一个误解。事实上，人工智能软件与传统软件的不同之处在于，它无法通过简单的标准路径来实现。与深度学习在面部识别中面临的问题类似，人工智能需要高精度。尽管标准路径很容易创建，但它们具有复杂的数据和准确性要求，这使得它们很难在生产环境中实际使用。

从结果来看，能够实现良好投资回报率的人工智能代理并不多。就像微软的GitHub Copilot 一样，它很受欢迎，但实际上却在赔钱。 ChatGPT 本身也在亏损。如果算成本和收益的话，飞书、钉钉可能都赚不到钱。因此，就商业成功而言，AI目前还不具备可行性。这需要大家的配合。

从技术新颖性的角度来看，肯定会有很多创新，但从实际应用的角度来看，AI代理带来的附加值相比更大的模型ChatGPT可能并不那么明显。

周远建：虽然我们可以找到一些人工智能落地的例子，但人工智能真正能给企业带来的附加价值其实并不那么明显。该领域仍然面临一些挑战，特别是在尝试解决现实世界的业务问题时。这表明实施人工智能并不是一件容易的事。

InfoQ：目前已经实现的AI代理有哪些技术瓶颈？

周元肯

：从技术角度来看，我个人认为目前实际应用中的瓶颈主要是在这些大型模型本身，其理解能力和逻辑推理能力还存在不足。因此，商业化的过程往往需要技术团队针对这些大型模型的缺点提供支持。这种支持不仅包括算法和模型调优，可能还需要产品设计和工程能力来保证整个过程。

从另一个角度来看，实施不仅仅是一个技术问题。此外，在实际应用中还出现了需要专业知识的问题。即使对于一些专业咨询服务的客户来说，内部专业知识也可能并不明显。因此，我们经常需要与客户合作，讨论和组织我们如何建立和应用我们的专业知识。

从长远来看，我认为专业知识和人工智能代理的结合是不可避免的。数字化专业知识的转化过程将是代理商实际应用的关键部分。我们发现行业内的一些代理商主要集中在几家大公司。这是因为这些公司在技术团队、计算能力和数据方面都相对完善，同时内部实施也相对容易，因为内部团队更容易推动知识整合工作。被认为。

此外，还有一个有趣的例子，外部代理可以帮助维护代码库。例如，它读取你的项目在GitHub 上的问题，分析你的项目的代码，自动响应与编辑意图相关的内容，提供建议，甚至执行一些“神奇的任务”也可以。 GitHub 上已经有几个开源项目使用此类代理来帮助维护代码库，这是一个非常有趣的领域。

周健

：我认为现在计算能力是一个巨大的瓶颈。由于紧急情况下交付及时性有限等原因，我们通常采用私有化部署方式。一些应用场景对计算能力的要求不同，例如为客户生成中文考试题或支持银行员工的保险销售。在这方面，我们遇到了一些具体问题，例如在实施过程中观察到的训练和推理之间的差异，以及移动设备上可能出现的本地计算和云计算之间的调度问题。

此外，算力问题还受到地缘政治和供应链条件的影响，一些先进的显卡可能难以获得。内部IT建设需要考虑如何打造与大模型相关的技术装备，同时解决碳排放、绿色环保等可持续发展问题。在商业运营中实现经济效益仍然是一个重大挑战。我认为至少需要2-3年的时间来解决这些问题并找到符合验收标准的解决方案。

InfoQ：根据您的观察，目前哪些行业的AI Agent 大规模模型商业化速度最快？

周健

：最后我觉得服务业对于大公司来说有两个方面：资金实力比较强。今天，我们清晰地感受到，信息化是数字化的基础。没有信息化就不可能实现数字化。就我们今天谈到的数字智能和人工智能代理而言，前提是该领域应该具有相对较高的数字化程度，但反过来也可以推断。比如金融、能源、零售等行业其实数字化程度比较高。在这种情况下，人工智能代理的实际实现可能会更容易。

一方面，虽然可能涉及个人，但我们看到灵活就业整体正在从传统的劳动力市场，如快递员、滴滴出行司机，逐渐向企业端拓展。企业可以将部分工作外包，以满足灵活用工需求。以前，有像猪八戒这样的平台，你可能可以外包一些工作。目前，不少政府园区也在考虑应用GPT技术。换句话说，我们能否通过有限的专家和庞大的语言模型提供人力资源、法律等方面的支持来支持中小企业的发展？

因此，在SaaS领域，SaaS对专业服务的快速模仿可能会成为更大的趋势。通过计算能力以“Agent as a Service”的形式提供服务，实际上等于快速释放了大量的生产力。我们认为，未来1-2年内可能会形成一些重要的经验效应和例子。

InfoQ：我们如何规范AI代理的开发？

周元肯

：这个问题本身相对来说还没有解决，我认为目前还没有一个被广泛认可的解决方案。随着应用场景的增多，新的问题不断出现。

谈到数据隐私问题，脱敏化、私有化是最基本的解决方案。我们使我们的系统和模型能够在您的环境中运行，如果需要微调，甚至可以将微调的数据和流程保留在客户端。我们更愿意把计算资源转移到客户端，同时保证数据安全。通过这些措施，可以从最基础的层面保证数据安全。

在实际应用中，可能会涉及到更详细的需求，例如隐私相关的权限管理、数据权限管理等。但是，如果数据已经在模型中，则管理起来可能会更加困难。因此，您通常会考虑多种策略，例如使用外部支付方式、使用应用内购买以及分离代理设计和执行流程。我们解决方案的核心思想是将整个流程构建为多级管道，而不仅仅是一个AIM（人工智能模型）。这使您能够在战略层面更好地管理数据。

这样一来，对模型的需求就变得能够具有回答问题、写作、总结文档等功能，而不是简单地依赖于知识数据。模型的功能是本地的，但所有支持数据都是外部的。当需要检索数据时，可以通过信息系统进行传统的检索方法，同时可以在信息系统上实现各种隐私保护和权限控制。

此外，算法管道现在是开放的，使得算法的透明度稍微降低了一些。用户可以一步一步地看到代理是如何工作的，并检查每个步骤的输出，以确保最终结果从根本上是有效的。

未来，随着专业知识的积累和数据的积累，个人和组织将能够有选择地将独特且稀有的知识和数据发布给他人审查。在这种情况下，个人和组织可以通过将自己的知识提供给他人来获得一定的报酬。

周健

：关于数据问题，我们在实际实施过程中，特别是在早期阶段，遇到了一些挑战。我们最初想到进入法律行业，但后来我们意识到我们可能会面临更大的挑战。律师可能不愿意分享这些信息，因为他们将过去的案件视为主要的竞争障碍。如上所述，专业知识的数字化是引入人工智能代理的先决条件。如果专家由于经济或竞争原因不愿分享知识，则应设计相应的机制。

该国还成立了大数据管理局，不断讨论数据元素和隐私。在B端，不同的Agent可以扮演不同的角色，负责不同的任务，拥有不同的权责。除了公司人员的管理、使用和调配之外，代理商是否有相应的权利、责任和利益制度也是需要考虑的问题。因为如果没有这些设计，代理只是程序，隐私问题目前很难解决。代理人作为一个能够获取知识、数据和做出决策的实体，总是涉及隐私问题。在处理代理机构的性质和相关隐私问题时，需要进行更详细的讨论才能达成一致。

InfoQ：AI Agent未来的发展趋势和前景如何？您认为AI Agent的大规模落地还需要多长时间？

周健

：大规模语言模型目前动力不足。我们希望降低实施门槛，让大多数人都能使用。我认为这至少要等到GPT-5 发布之后。国外大约需要1年，国内大约需要2-3年。

我认为重要的功能之一是让更大的语言模型知道它擅长什么和不擅长什么。当大规模语言模型获得这种能力时，他们会创建顾问和内部专家可以构建的虚拟助手，即使他们只有高中水平的知识。他们自己的潜力。现在，一些名人和KOL正在尝试打造自己的虚拟助手。我认为，如果大规模语言模型真的具备这样的能力并成为通用的基础设施，这样的应用将会很快普及。

周元肯

：目前，智能体开发的主要限制在于大型模型本身的限制。然而，代理人是一种有效的治理形式，我们相信他们在未来会逐渐成长和发展，尽管这可能需要一些时间。前面提到，GPT-5可能明年在海外推出，使用起来会更方便，但在国内可能需要更长时间。但无论发生什么，我相信总有一天会到来。

InfoQ：想要进入这个领域的公司和个人需要了解哪些相关知识？您对他们有什么建议吗？

周元肯

：由于这个问题涉及个人和组织之间的相关性，因此很难提出一个通用的解决方案，因为每个个人和组织的需求和情况可能不同。但从技术角度来看，需要对大规模语言模型算法有基本的了解。虽然它不像算法那样需要细致的工作，但了解其基本原理对于理解模型在技术决策中的边界非常有帮助。

此外，了解与代理相关的应用知识也很重要。目前业界最流行的是RAG。该领域有很多资源可供学习，包括经验总结、文献以及与业务相关的学术论文。我们还建议阅读InfoQ 文章，因为它们通常提供全面的概述。

与企业建立牢固的联系也很重要。无论使用什么技术，最终目标都是解决业务问题。脱离商业的技术发展是没有基础的。因此，深入了解业务需求并与业务团队密切合作可以帮助您更好地应用技术解决现实问题。

周健

：这种变化实际上是一种根本性的颠覆，公司的名字就来源于象征这种动荡变化的盛大法典。在这个快速变革的时代，总是需要快速变革。在真正前沿的AI智能体领域，知识迭代速度会很快，可能每2-3个月更新一次。

定制AI是进入AI领域的重要一步。我们从过去的经验中学到的是，不要执行太多功能，而是关注数据集和准确性。就像之前写工程代码时写测试用例一样，你需要知道采样的数据集是什么，它的分布是什么，训练出来的智能体是什么，你需要关注它是如何执行的。

随着新软件变得越来越像人类，设计人工智能代理或类人软件仍然很重要。了解人类如何完成任务、学习、进步和成长有助于我们设计人机交互。从命令行到GUI，交互方式不断被探索。新时代需要思考人与机器如何更加智能地交互，结合命令行、GUI、自然语言理解等技术，形成新的交互方式。

最后，你可以借鉴一些科幻小说中的设计思想，比如《钢铁侠》中的贾维斯。这个时代就像文艺复兴一样。我们需要重新思考人机交互，努力创造更好的人工智能代理。

InfoQ：这里，一位观众问道：“AI 代理和RPA 的功能有什么区别？”

周健

: 两者差别很大。相比之下，RPA 就有点“笨”了，只能通过Java 或Python 执行简单循环、变量设置等计划任务。更大的语言模型具有更强大的能力来真正理解对话、生成行动计划，并且更加通用和可重用。

InfoQ：我们这里的观众专注于为垂直行业开发对话机器人。他的方法基于当地知识库。他希望通过一些技术手段来提高系统提供准确答案的准确性。老师对于解决这个问题有何建议？

周元肯

：从技术角度来看，我们目前更喜欢合成人工智能方法。这意味着，首先对相关领域的知识有一定的理解或结构将有助于你更好地完成当前的任务。例如，法律领域的文件往往具有特定的结构，并且逐条书写，这是一个显着的特点。整个文档可以围绕这些条目构建。此外，对于报告等文档，结构包括行和列，并且可能包括标题和标题信息。这些头部信息可以单独提取出来，作为抽象、关键词匹配等任务的关键信息。

对于文档代理来说，在切片时，应该关注是否有更好的策略来合并最相关的切片，以帮助提高性能。而且，在传统搜索中，多通道召回技术不仅可以通过单个向量检索搜索结果，还可以与其他关键词和技术结合进行综合排名。

InfoQ：一位观众问道：“AI 代理如何协同工作？”

周健

：我认为现在还处于早期阶段，但企业服务可能会分为不同类型的功能代理。当前领域专注于自动化标准操作流程，涵盖数据、文档、应用流程等各个方面。

在这个愿景中，一些代理将专注于处理数据，而另一些代理将专注于分析过程。例如，数据代理负责回答有关数据的问题，文档代理负责集成文档。这也引出了一个重要问题，即如何在团队内设置不同的角色，划分数据和流程权限，分配不同的职责。

我认为它在更抽象的层面上仍处于起步阶段，但多个代理的实际影响要么在技术层面本身，要么在概念上，因为单个代理在实施方面可能做得不够好，我认为它很重要。某物。级别尚不清楚。组合两个代码实际上相当于一个代码。所以我认为我们需要在技术和概念层面上更深入地思考多代理的概念。

周元肯

：我同意这样的观点，即现阶段大规模语言模型的智能水平还没有达到足够的水平。为了提高端到端的效率，您可以考虑引入提问者、审阅者等多个角色，以便多个角色可以协同工作，更好地完成任务。然而，如果你当前的大规模语言模型还不够强大，那么这样做可能会事倍功半。您可能会花费大量时间来调整不同部分的性能以及它们如何协同工作，并且此过程可能会消耗大量能源。例如，如果单个模型的准确度仅为70%，则将三个模型拼接在一起可能会由于出错的机会增加而降低整体准确度。

此外，即使您投入更多精力进行调优，大型语言模型的功能仍然存在持续改进的风险。我收到了这个

经验，使用了类似的思路，例如在使用 GPT-3.5 时，尝试通过多个 Agent 协同工作来完成任务。然而，当我们使用新模型 GPT-4 时，发现之前的系统，即使经过大量努力进行调整，其结果可能还不如 GPT-4 效果好。因此，我们对内部采用多个 Agent 协同工作的做法持谨慎态度。
嘉宾简介：
周健，澜码科技创始人兼 CEO。毕业于上海交通大学计算机系，在校期间荣获 ACM 国际大学生程序设计竞赛的世界冠军，是首个在此项竞赛夺冠的亚洲团队成员。曾在谷歌和阿里云从事搜索领域的工作，涉及底层基础分布和基础设施相关的工作。后加入依图，是公司的第十位员工，负责开展 AI 工程和产品方面的工作；也曾在 RPA 公司弘玑担任 CTO。2023 年初创业，创立了澜码科技公司。
周元剑，澜码科技联合创始人人。本科毕业于上海交通大学。作为依图科技的第 6 号员工在依图工作 10 年左右，工作领域涵盖算法、工程、运维、产品经理，以及 SaaS 业务技术等方面。主导了多个 AI 落地相关业务，对于这一领域有深刻的理解。在过去的两年在弘玑工作，负责 AI 产品线。今年初随周健一起创办澜码，投身新创业项目。
原文链接：AI Agent与行业融合应用的前景及创新应用案例 ｜InfoQ《极客有约》 _生成式 AI_李冬梅_InfoQ精选文章