极简加减法双驱动 Harrison 认知架构 Chase 独创AI智能体 定制 (极简算术)

文章编号:36758 资讯动态 2024-11-30 ChaseHarrison人工智能智能体

七月初,OpenAI 一篇博文让AI智能体的热潮席卷全球,业界对 AI 智能体的兴趣达到了一个新的高度。

智能体被视为大模型之后的又一热点。如在公众号 AI 科技评论之前“具身智能十人谈”栏目对联想 CTO 芮勇的专访中,芮勇就认为, AI 发展的三部曲是从小模型到大模型,再到智能体。 这也是联想很早就关注到了 OpenAI,并快速跟进智能体研究的原因。

首先要搞明白一个问题:AI 智能体和我们熟悉的 AI 助手到底有什么不同?

表面上看,它们似乎都是帮助我们完成任务的工具。可 LangChain 的创始人 Harrison Chase 告诉我们,差别其实非常大。

AI 智能体指的是一个可以观察周遭环境并作出行动以达致目标的自主实体。通俗地说,就是一个具备 AI 能力的主体,可以是硬件也可以是软件,但一般都是软件程序,比如 LangChain。

LangChain 是一个开源框架,它的特别之处在于,你只需几行代码就可以快速搭建 AI 应用。这让创建复杂的智能体变得像搭积木一样简单。

Harrison Chase 创立了同名公司 LangChain 后,还陆续推出了 LangGraoh 和 LangSmith 用于解决更复杂的问题。

问题来了:这些智能体真的比 AI 助手更强大吗?

对此,Harrison Chase 的观点非常明确。他认为,AI 助手的核心在于辅助人类做决策,而智能体的核心则是自主行动,独立决策。

AI 助手就像副驾驶座上的帮手,帮你指路、拿东西;而 AI 智能体则是司机,它能够自己决定路线和速度,独立工作、处理一系列任务,完全不需要人类的每一步指引。

早期的 AI 智能体,比如 BabyAGI 和 AutoGPT,曾被质疑为换汤不换药的 AI 助手炒作版。因为它们的任务过于笼统、缺乏明确的规则,而实际上,企业真正需要的是能够根据具体需求定制的智能体。

而当今正火热的另一个概念“具身智能”,其本身也是一种有身体并支持物理交互的智能体。LangChain 智能体是旨在增强 LLM 能力的强大组件,使它们进行决策和采取行动,从而实现更高级的智能形式。

Harrison Chase 把从用户输入到输出,LLM 在调用中处理和流转信息的整个过程称为“认知架构”,并表示定制的认知架构能让 AI 智能体根据需求反复执行相同的任务,自动化大量繁琐的事务,实现用户操作的极致简化。

当然,AI 智能体能做的不止是流水线工作这么简单,在帮助用户给繁琐的工作做减法的同时,Harrison Chase 还特别关注用户体验,通过定制做了新的加法。

一方面,AI 智能体能和用户互动,给用户更贴心的私人定制服务,另一方面它们还能根据用户反馈不断优化,越用越智能,让用户可以完全放手丢给 AI 智能体去处理。

不过,对于那些目标是做通用认知架构的企业来说,没必要费心去提升认知架构的水平。只有那些盯准定制化需求的企业才需要像上个世纪的啤酒厂商一样,必须花大力气去搞自己的发电系统,才能让自己的啤酒味道更好。

目前,AI 智能体的研究仍然处于起步阶段,普林斯顿的研究表明,他们的智能体能解决 12.5%的 Github 问题,而依赖检索增强生成(RAG)时只有3.8%。

但是 Harrison Chase 非常看好 AI 智能体在客户支持和编码方面的潜力,尤其是编码。

在成熟的AI智能体的协助下,人人都能成为软件开发工程师。

一个不会写代码的设计师,只要告诉 AI 智能体想要一款特定功能的应用程序,智能体就能根据需求自动生成代码,把创意变成现实。这将彻底改变我们工作和创造的方式。

Harrison Chase 认为未来的工作,将不再被日常琐事困扰,而是让 AI 智能体承担繁重的任务,人们只需要专注于创造和享受生活。

在红杉资本的播客中,Harrison Chase 还综合技术和产品,分享了更多他关于 AI 智能体的训练、演变和未来前景的见解。

完整播客内容可以点击以下链接一键收听,也对播客内容做了不改原意的精编处理,整理出文字版提供给大家:

AI 智能体的发展

Sonya Huang:智能体(Agent)是当前大家都非常关注的话题。自从 LLM(大语言模型)兴起以来,你一直在智能体构建的前沿。能给我们介绍一下智能体的定义吗?

Harrison Chase :要定义智能体其实有些棘手。人们可能对它有不同的理解,这很正常,因为我们还处在 LLM 和智能体相关发展的早期阶段。

我个人的理解是,智能体是由LLM决定应用程序的控制流程。

举个例子,在传统的 RAG(检索增强生成)链中,流程是预设的:生成搜索查询、检索文档、生成答案,最后反馈给用户。

而智能体则将 LLM 放在中心,让它自主决定下一步的行动。有时它会发起搜索,有时直接回复用户,甚至可能多次查询,直到得出答案。LLM 能动态决定整个流程。

工具的使用也是智能体的重要特征。当 LLM 决定行动时,它通常会调用不同的工具来实现。此外,记忆也是关键,当 LLM 确定下一步时,它需要记住之前的操作。

总的来说,智能体的核心就是让 LLM 决定应用程序的控制流程。

Pat Grady:你提到的很多都和“决策”有关,我想知道智能体是否就是一种行动方式?这两者是否相辅相成?智能体的行为是否更偏向某一方面?

Harrison Chase: 我认为它们确实是相辅相成的。智能体的很多行为本质上是在决定如何采取行动,而这个过程的难点在于找到正确的行动。因此,解决“决策”问题通常也能解决“行动”问题。一旦决策确定,LLM 系统就会执行相应的行动并反馈结果。

Sonya Huang:智能体与链的主要区别在于 LLM 自主决定下一步,而不是预先设定步骤。这种区分是否准确?

Harrison Chase: 是的,这是一个很好的描述。不过,实际上有不同的层次。比如,简单的路由器可能做的是链中的路径选择,虽然 LLM 依然在决策,但这只是基础应用。而完全自主的智能体则是另一种极端。整体来看,确实存在一些细微的差别和灰色地带。

Sonya Huang:明白了,智能体的范围从部分控制到完全自主决策都有,这很有趣。你觉得 LangChain 在智能体生态系统中扮演了什么角色?

Harrison Chase: 我们现在的重点是让人们更容易创建介于这两者之间的智能体。我们发现,最有效的智能体通常位于这个中间地带。尽管完全自主的智能体吸引人,且已有原型,但它们常常偏离预期。因此,我们的工作集中在“编排层”,以便构建灵活但仍有一定约束的智能体。如果你想深入了解,我们可以再讨论。但总的来说,LangChain 的愿景是成为一个编排框架。

Sonya Huang:我记得在2023年3月左右,像 BabyAGI 和 AutoGPT 这样的自主智能体引起了很多关注,但它们的首批迭代似乎没有达到人们的期望。你认为原因是什么?现在智能体的炒作周期处于什么阶段?

Harrison Chase: 确实,AutoGPT 的出现开启了智能体的炒作周期,尤其是在 GitHub 上受欢迎。这个热潮从 2023 年春季持续到夏季,之后稍微降温。到了 2024 年,我们开始看到一些实用的应用,比如 LangChain 与 Elastic 的合作,推出了 Elastic Assistant 和 Elastic Agent 等生产级智能体。这些应用,如 Klarna 的客户支持机器人,引发了更多讨论。此外,Devon 和 Cira 等公司也在智能体领域进行尝试。

关于 AutoGPT 未能完全成功的原因,我认为主要是它们过于笼统,缺乏明确的任务和规则。企业希望智能体能完成更具体的工作,而不仅仅是模糊的自主智能体。因此,我们看到的智能体更多像是定制的认知架构,尽管灵活,但需要更多的工程投入和开发时间,这也是这些系统一年前还未出现的原因。

定制认知框架

Sonya Huang:你前面提到了“认知架构”,我很喜欢你对它的思考方式。能否解释一下,什么是认知架构?我们应该如何理解它?有没有一个合适的思维框架?

Harrison Chase: 是的,我理解的认知架构,基本上是指在使用大语言模型(LLM)时,你的系统架构是什么样的。

如果你正在构建一个应用,其中涉及多个算法步骤,你是如何利用这些算法的?你是否用它们生成最终答案?还是用它们在不同任务间进行选择?是否有非常复杂的分支,甚至包含多个循环?

这些都是认知架构的不同表现形式。认知架构其实就是指,从用户输入到输出,LLM在调用过程中如何处理和流转信息。

尤其是在把智能体投入生产时,我们发现流程通常是根据具体应用需求而定制的。

例如,某个应用可能需要先进行一些特定的检查,再执行几个步骤,每个步骤又可能包含循环或分支。这就像是你在画一张流程图,而这种定制化的流程越来越普遍,因为人们希望智能体在应用中更可控。

我之所以称它为“认知架构”,是因为LLM的核心优势在于它的推理能力,你可以通过编码这种认知心理模型,将其变成软件系统中的某种架构。

Pat Grady:你觉得这是未来的发展方向吗?我听到了两点,一是非常定制化,二是它听起来更像是硬编码的。你认为这是我们当前的方向,还是暂时的解决方案?未来会出现更优雅的架构,或者一系列标准化的参考架构吗?

Harrison Chase: 这是个很好的问题,我花了很多时间在思考这个。我认为,在极端情况下,如果模型在规划上非常强大且可靠,你可能只需要一个简单的 for 循环,反复调用 LLM 来决定下一步该做什么,然后执行操作并再次循环。

所有你希望模型遵循的约束都可以通过提示传达,而模型也会按你预期的方式执行。尽管我相信模型在推理和规划方面会越来越好,但我不认为它们会完全取代手动构建的架构。

首先是效率问题。如果你知道某个步骤总是需要在另一步骤之后执行,那么你可以直接把它们按顺序安排好。

其次是可靠性,尤其是在企业环境中,人们需要一定的保障,确保关键步骤按预期执行。

因此,我认为虽然构建这些架构可能会变得更容易,但它们仍然会有一定复杂性。

从架构的角度看,你可以认为“在循环中运行 LLM”是一种非常简单但通用的认知架构。而我们在实际生产中看到的更多是定制化、复杂的架构。

我觉得随着时间推移,通用规划和反思功能会被直接训练到模型中,但那些需要高度定制的规划、反思和控制功能依然不会被取代。

Sonya Huang:可以这样理解:LLM可以完成通用的智能体推理,但在具体领域中,你还需要定制化的推理能力。这些是无法完全内置到通用模型中的。

Harrison Chase: 完全正确。自定义认知架构的核心思想在于,你让人类来承担规划责任,而不是完全依赖 LLM。

尽管某些规划功能可能会越来越接近模型和提示,但很多任务的规划过程依然复杂,无法完全自动化。我们还需要时间,才能发展出高度可靠、即插即用的解决方案。

用户体验设计

Sonya Huang:我相信智能体将成为人工智能的新潮流,我们正从 AI 助手转向 AI 智能体。你同意吗?为什么?

Harrison Chase: 我基本同意。智能体的潜力在于,传统的 AI 助手依赖人类输入,任务能力有限。而智能体能更独立地行动,偶尔与用户互动,这使它们能自主处理更多任务。

但赋予它们更多自主性也带来了风险,例如可能出现偏差或错误。因此,找到自主性与可靠性之间的平衡将是一个重要的挑战。

Pat Grady:你在 AI Ascent 上提到了用户体验。通常,我们认为它与架构位于光谱的两端——架构是幕后工作,而用户体验是前端展示。

但现在似乎情况有所不同,用户体验实际上可以影响架构的有效性。比如,当出现问题时,你可以像 Devin 一样,回溯到规划过程中出错的地方。

你能谈谈用户体验在智能体或 LLM 中的重要性吗?另外,你觉得有哪些有趣的发展?

Harrison Chase: 用户体验在当前非常重要,因为 LLM 并不完美,时常出错。聊天模式特别有效,它允许用户实时查看模型的反应,并及时纠正错误或追问细节。虽然这种模式已成为主流,但它的局限在于依然需要用户的持续反馈,更多是一种“助手”的体验。

如果能减少用户的介入,让 AI 自动完成更多任务,将带来巨大的变革。

不过,如何在自动化和用户参与之间找到平衡是个难题。一些有趣的想法正在尝试解决这个问题。例如,创建一个智能体透明度列表,让用户清晰了解AI执行的每一步。如果某个步骤出错,用户可以直接回溯并调整指令。

另一个创新的想法是引入“收件箱”体验,让智能体在后台并行运行,当需要人类帮助时,它可以像发邮件一样提醒用户,这样用户就可以在合适的时机介入,而不必全程监控。

在协作方面,智能体可以先起草文档,用户作为审阅者提供反馈。实时互动的体验也很吸引人。

例如,用户在评论时,智能体能够立即修复问题,就像在 Google Docs 中一样。这种互动方式能够增强用户体验,使AI真正成为高效的工作伙伴。

Pat Grady:你提到的关于智能体如何从交互中学习,真的很有意思。如果我每次都要重复给同一个反馈,那体验就会变得很糟糕,对吧?系统该如何提升这种反馈机制?

Harrison Chase: 确实!如果我们不断给智能体相同的反馈,而它却不改进,那无疑会让人沮丧。因此,系统的架构需要能够从这些反馈中学习,不仅仅是修复当前的问题,还能积累经验,避免将来再犯。

这方面的进展虽然还处于早期阶段,但我们已经花了很多时间在思考这些问题上,并相信随着技术的进步,智能体会变得越来越“聪明”,从而带来更流畅的用户体验。

让啤酒变得更好

Sonya Huang:在过去六个月,智能体领域取得了显著进展。普林斯顿的研究表明,他们的智能体能解决 12.5% 的 GitHub 问题,而依赖检索增强生成(RAG)时只有 3.8%。

尽管有所进步,但 12.5% 仍不足以取代实习生。你认为智能体的发展到了哪个阶段?它们能否在面向客户的环境中可靠部署?

Harrison Chase: 是的,SWE 智能体相对通用,可以处理多种 GitHub 问题。定制智能体的可靠性虽然没有达到“99.999%”,但已经足够在生产环境中使用。例如,Elastic 的智能体已在多个项目中应用。虽然我没有具体的可靠性数据,但它们足够可靠,可以上线。通用智能体面临更大挑战,需要更长的上下文窗口和更好的推理能力才能广泛应用。

Sonya Huang:你提到过思路链(Chain of Thought)等技术,能分享认知架构对智能体性能的影响吗?你认为最有前途的认知架构是什么?

Harrison Chase: AutoGPT 等项目没有成功的一个原因是早期 LLM 无法明确推理第一步该做什么。思路链等技术为模型提供了更好的推理空间。

姚舜宇的 ReAct 论文是第一个专门用于智能体的认知架构之一。ReAct 结合了推理和行动,让模型不仅执行动作,还能进行推理,从而提高其能力。现在,随着模型训练的深入,显式推理步骤变得不再那么必要。

当前主要挑战在于长期规划和执行,模型在这方面表现不佳,需要认知架构帮助生成计划并逐步执行。反思则帮助判断任务是否完成。

总的来说,规划和推理是目前最重要的通用认知架构,未来随着训练改进,这些问题将得到更好的解决。

Sonya Huang:你提到杰夫·贝索斯说过“专注于让你的啤酒更好”。这让我想到早期许多啤酒厂选择自己发电。今天很多公司面临类似问题:是否需要控制认知架构来提升业务?构建和优化这些架构真的能“让你的啤酒更好”,还是应该放弃控制,专注于用户界面和产品开发?

Harrison Chase: 这取决于你构建的认知架构类型。如果是通用架构,可能不会直接提升业务。未来,模型提供商会专注于通用的规划和认知架构,企业可以直接使用这些来解决问题。但如果是高度定制的架构,反映了特定的业务流程或最佳实践,那它确实能提升业务,尤其在依赖这些应用的领域。

定制的业务逻辑和认知模型可以显著提高系统表现,个性化后更加精确和高效。尽管用户体验和界面设计依然重要,但定制化智能体显然是企业的一个重要优势。我认为通用和定制之间有很大的区别。

编排和可观察性

LangSmith and LangGraph

Sonya Huang:我们能聊聊 LangSmith 和 LangGraph 吗?你们解决了哪些问题?特别是在智能体管理方面,你们的产品如何帮助人们更好地管理状态和提高智能体的可控性?

Harrison Chase: 当然可以。LangChain 的推出解决了关键问题,尤其是标准化各个组件的接口。这让我们能够与多种模型、向量存储、工具和数据库进行广泛集成,这也是LangChain受欢迎的重要原因。

LangChain 还提供了一系列高级接口,使用户可以轻松使用功能,如 RAG(检索增强生成)和 SQL 问答,同时动态构建链的运行时间也较短。我们把这些“链”视为有向无环图(DAG),这一点很重要。

LangGraph 解决了与可定制和可控的循环元素相关的问题。循环引入了新挑战,比如设计持久化层,以便恢复状态并让循环在后台异步运行。因此,我们关注如何有效部署长期、循环和人机交互的应用程序。

关于 LangSmith,自公司成立以来我们就一直在研究它,专注于 LLM 应用的可观察性和测试。

我们发现,LLM 作为核心时,其固有的不确定性使得可观察性和测试尤为重要,以确保能自信地投入生产。LangSmith 的设计使其能够与 LangChain 无缝配合。

此外,LangSmith 还提供了提示中心,帮助用户管理和手动审查提示。这在整个过程中显得尤其重要,因为我们需要明确 LLM 输出的新内容。

可观察性是 LLM 的显著特征,而测试的复杂性也在增加。因此,我们希望人们能更频繁地审查内容,而不仅仅局限于传统的软件测试。LangSmith 提供的工具和路由正是为了解决这些挑战。

可观察性

Pat Grady:你是否有一种启发式的方法来评估现有的可观察性、测试和填空,看看它们在多大程度上适用于 LLM?哪些特征使得现有 LLM 与之前的模型有显著不同,以至于你们需要开发新产品、新架构或新方法?

Harrison Chase: 是的,这确实是一个值得深入思考的问题。尤其是在可观察性和测试方面,LLM 的复杂性让我们必须创新。虽然像 target="_blank">转载须知。

Harrison Chase:独创AI智能体「认知架构」,定制+极简加减法双驱动

全局中部横幅
IT之家

IT之家,青岛软媒旗下的前沿科技门户网站。快速播报科技行业新闻头条快讯和手机数码产品评测,关注智能车电动车、AR/VR虚拟现实、苹果iOS/iPadOS、鸿蒙OS、谷歌Android、微软Win11/Win10/Win7,紧盯iPhone/iPad、安卓智能设备手机等数码潮流。

公务员考试网

国家公务员考试网转载发布2024年国家公务员考试报名时间、报名入口、报考条件、职位表、考试公告、考试大纲等国家公务员考试信息,及时提供最新的备考复习资料、备考指导

中国民主促进会

中国民主促进会网站是中国民主促进会中央委员会的门户网站,于2002年创建,2003年6月正式开通。网站的宗旨和定位是,为统一战线服务,为民进工作服务,为民进会员服务,为“民进之友”服务。自开通至今十余年来,民进网站坚持内容为王和需求至上的原则,不断改造升级,进一步完善栏目,已逐步发展成为具有鲜明民进特色的网站。

你不知道的事

爱查地名网(www.iicha.com)中国最专业最全的中国行政区划网站,含中国各乡镇介绍,风土人情简介,地名简称,地名大全,地名来历。

高温钢化玻璃油墨

天津市恒恩印刷材料有限公司成立于2004年,坐落于天津市津南区八里台工业园,恒恩秉承着“诚信经营,共同发展”的宗旨,坚持“顾客至上,服务为本”的经营理念,为客户提供最优质的产品与最专业的服务。 恒恩专注于高温钢化玻璃油墨的研发生产、大型丝网及精密丝网制版。除此之外,我们还提供图案设计、菲林输出、环保型低温油墨以及各种丝印耗材。公司全套引进国外先进设备,进口材料,专业生产技术人员进行研究开发,确保产品的质量品质,给客户提供完美的印刷解决方案。

精密不锈钢管

常州精密不锈钢管是精密不锈钢管,BA管,EP管,仪表管,气缸管,不锈钢精密管厂家,有精轧机(LD-60型三辊、LD-40型三辊、LD-30型三辊、LD-15双线三辊、LD-30二辊)、真空回火炉、绞直机等配套设备。不锈钢材质有304、321、316、316L、304L,规格φ4-120MM,壁厚0.3-6MM,内外抛光、粗糙度(镜面)高。并承接不锈钢精密管加工业务。

红外测温仪

西安瑞途电子公司主营产品:红外测温仪,红外线测温仪,双色红外测温仪,钢水红外测温仪,电力红外测温仪等,具有多年自动化红外线测温仪产品开发生产经验,为您提供一站式温度测量解决方案,公司在红外测温仪器领域拥有专业的研发和售后服务,咨询热线:18049555268

杭州游卡桌游网

桌游圈,致力于聚集各方桌游玩家,是情侣互动、家庭娱乐、朋友聚会必选的在线交流平台。在这里获取桌游资讯,寻找桌友,讨论桌游的乐趣。我们还会将最好玩的棋牌桌游排行榜推荐给你,无论是线上经典卡牌的,还是策略烧脑的,各种游戏版本都带你疯狂烧脑。

南京仁康体检

南京仁康体检中心是一家专业的职业、健康体检机构,为您的健康保驾护航

全局底部横幅