广告
加载中

AI智能体 是不是可以慢一点?

杨丽 2025/05/07 08:30
杨丽 2025/05/07 08:30

邦小白快读

本文探讨了AI智能体技术在快速商业化进程中面临的矛盾与挑战。以Manus为代表的AI智能体企业通过工程化包装第三方大模型实现爆发式增长,引发字节、百度、阿里等大厂加速布局,推动行业向MCP协议主导的多智能体协作范式演进。然而,技术狂奔背后隐藏着安全治理体系的严重滞后:七成用户对AI智能体风险认知不足,厂商普遍缺乏专职安全团队,多智能体协作引发的访问控制失控、资源竞争等新型风险凸显。行业专家指出,AI智能体的自主决策特性放大了数据泄露、提示注入攻击等传统AI风险,呼吁在追求商业利益的同时,需"慢下来"补足安全治理能力,在技术创新与风险防控之间寻找平衡点。

**【品牌商视角核心摘要】**

AI智能体赛道在资本与巨头的加码下急速扩张,但技术成熟度与安全治理的滞后性正引发行业反思。

**市场动态与竞争格局**

- **Manus现象**:凭借第三方大模型套壳策略实现AI智能体能力,获7500万美元融资,估值近5亿美元,但技术路径争议不断。

- **巨头入场**:字节、百度、阿里等大厂密集推出AI智能体产品(如扣子空间、心响APP),布局MCP协议构建生态,通过协作平台整合多类型智能体(如股票分析、行研专家),争夺企业智能化转型需求的红利。

**风险与挑战**

- **安全隐忧**:智能体自主决策放大幻觉、数据泄露、提示注入攻击等风险,多智能体协作进一步导致访问失控、资源竞争等复杂问题。

- **认知与治理滞后**:70%企业客户对AI智能体认知不足,厂商普遍缺乏专职安全团队,安全测试与漏洞管理存疑,行业重商业利益轻长期风险。

**行业反思与未来方向**

- **技术本质**:AI智能体需突破感知、规划、执行的协同难题,适应动态场景(如自动驾驶),而非简单套壳或模块拼接。

- **“慢”的价值**:客户呼吁放缓步伐,优先补齐安全治理能力,避免盲目追逐技术概念(如MCP、A2A协议),需通过实践夯实基础,寻找可复用的成功案例。

**结论**:AI智能体市场爆发与技术成熟度存在断层,品牌商需理性评估技术适用性与风险,关注生态协作(如MCP协议)的同时,优先构建安全治理体系,避免陷入“快而不稳”的创新陷阱。

【核心摘要】

当前AI智能体赛道呈现爆发式增长与多重挑战并存的局面:

1. **大厂加速布局与生态争夺**:字节、百度、阿里等头部企业快速推出AI智能体产品(如扣子空间、心响APP),通过MCP协议构建生态,试图在智能体协作、行业场景落地中占据先机。

2. **套壳争议与技术路径分化**:以Manus为代表的"工程化套壳派"引发行业争议,虽被质疑缺乏底层核心技术,但其市场爆发力仍吸引资本青睐(如5亿美元估值融资)。

3. **安全风险与治理滞后**:AI智能体的自主决策、多智能体协作等特性放大幻觉、数据泄露、资源滥用等风险,超七成客户认知不足,厂商安全投入薄弱,行业亟需建立系统化治理框架。

4. **需求侧呼吁理性发展**:部分企业客户提出"慢一点"的诉求,强调需在技术普及期夯实安全能力,避免盲目追逐技术名词,通过实践验证寻找真实业务价值。

AI智能体正从概念验证迈向复杂场景落地,但技术成熟度、风险控制与商业回报的平衡将成为下一阶段竞争关键。

**核心内容总结:**

本文探讨了AI智能体领域的快速发展与潜在挑战。以Manus为代表的套壳模式引发行业争议,但其市场热度吸引字节、百度、阿里等大厂加速布局,推出多款AI智能体产品(如“扣子空间”“心响”等),并借助MCP协议构建生态。然而,技术狂奔背后隐藏多重风险:安全层面(数据泄露、决策失控)、用户认知不足(七成客户不了解AI智能体)、多智能体协作的复杂性(资源冲突、监控困难)等问题凸显。行业专家呼吁“慢一点”,强调需同步提升安全治理能力与认知,避免盲目追求技术名词,而应在实践与基础夯实中寻找可持续路径。文章指出,AI智能体的真正价值在于适应复杂场景的动态决策能力,其成功需平衡技术创新与风险控制,回归实际需求与长期稳定性。

本文探讨了AI智能体(Agent)领域的快速发展与潜在挑战。核心内容如下:

**市场动态与竞争格局**

- **Manus模式争议**:以工程化包装第三方大模型的AI智能体公司Manus迅速崛起(估值5亿美元),引发行业对"套壳应用"的争议。尽管缺乏核心技术,其7500万美元融资和头部厂商的赛道下探(字节、百度、阿里等推出"扣子空间""心响"等产品)显示市场对AI智能体的强烈需求。

- **大厂生态布局**:头部企业通过引入**MCP协议**(连接工具与资源的核心协议)加速生态构建,推动智能体协作成为主流范式,阿里、腾讯、百度等已实现协议对接。

**安全风险与行业痛点**

- **风险放大效应**:AI智能体的自主决策特性加剧了幻觉、数据泄露、提示注入攻击等传统AI风险,多智能体协作更导致访问失控、资源竞争等新型安全隐患。

- **认知与治理滞后**:70%企业客户对AI智能体认知不足,厂商普遍缺乏专职安全团队,行业过度追求商业利益而忽视长期风险防控。

**技术挑战与反思**

- **复杂性远超预期**:AI智能体需突破感知、规划、执行等环节的高度协同,其动态适应能力与传统RPA等固定场景技术存在本质差异。

- **行业呼吁"慢发展"**:专家建议放缓商业化步伐,优先补全安全治理体系,避免技术名词炒作,通过实践夯实基础能力。

本文揭示了AI智能体在资本狂热与技术激进下面临的深层矛盾——市场需求推动的快速迭代与安全治理缺失之间的冲突,为行业理性发展提供警示。

**核心内容总结:**

本文围绕AI智能体(Agent)的快速发展与争议展开,探讨了以下关键议题:

1. **市场现状与争议**:以Manus为代表的AI智能体企业通过“套壳”第三方大模型快速崛起,虽获资本青睐(如7500万美元融资,估值达5亿美元),但其技术路径引发行业争议。部分观点认为应用层缺乏核心技术壁垒,但市场需求正推动企业智能化转型。

2. **大厂加速布局**:字节、百度、阿里等大厂快速切入AI智能体赛道,推出“扣子空间”“心响”“心流”等产品,构建多智能体协作生态,并通过MCP协议连接工具与资源,强化生态优势。

3. **安全与治理挑战**:AI智能体自主决策特性放大幻觉、数据泄露、资源滥用等风险,多智能体协作进一步加剧安全复杂度。客户普遍认知不足,七成企业不了解AI智能体及其风险,呼吁放缓步伐以完善安全治理。

4. **行业反思与未来**:技术快速迭代下,AI智能体需解决动态环境适应、多环节协同等技术难题。厂商需平衡商业利益与长期风险,而客户更关注实践中的成功案例而非技术名词堆砌,行业需在速度与安全间寻找平衡。

**关键矛盾**:市场对AI智能体的爆发性需求与技术安全性、客户认知滞后的冲突,引发“快与慢”的行业反思。

**核心内容概述:**

AI智能体(Agent)领域正经历迅猛发展与行业反思的双重浪潮。以Manus为代表的套壳式AI应用虽凭借工程化包装快速崛起,却因缺乏底层核心技术引发争议。与此同时,字节、百度、阿里等大厂加速布局AI智能体赛道,推出多款产品并构建MCP协议生态,试图通过连接工具与资源抢占市场先机。然而,狂热的技术推进背后,安全风险与治理能力不足的问题逐渐暴露:AI幻觉、数据泄露、多智能体协作失控等隐患凸显,而厂商与用户的安全认知及措施仍处早期阶段。行业专家呼吁“慢一点”,强调需在夯实安全治理、提升技术认知的基础上理性发展,避免盲目追逐技术名词,转而从实践中寻找可持续的成功路径。本文揭示了AI智能体从市场爆发到安全反思的全景矛盾,探讨了技术创新与风险控制的平衡之道。

{{loading ? '正在重新生成' : '重新生成'}}

返回默认

我是 品牌商 卖家 工厂 服务商 平台商 研究者 帮我再读一遍。

Manus爆火之后,产品过度营销曾使其一度饱受业内争议——不自研大模型,而是基于第三方大模型进行工程化包装,实现通用AI智能体(Agent)的能力。在创始团队看来,极致的套壳就是一种胜利。

大模型应用套壳其实是个微妙的话题。特别是在此之前,无论是DeepSeek还是OpenAI,亦或是加入基础大模型混战的知名科技企业、AI大模型创企,都以标榜自家的基础大模型自研技术能力为荣。

也因此,大模型研发作为一项需要卷算力、卷数据、卷算法的系统性底层工程,且赢者通吃,市场的聚光灯也始终聚焦于头部企业。对于只做上层应用的AI套壳或“借鉴”企业而言,尽管市场爆发的可能性高,但始终不掌握底层核心技术,往往被认为缺乏风险承受能力。金沙江创投主管合伙人朱啸虎甚至直言:“所有AI应用都是套壳应用,说有壁垒是忽悠人的。”

尽管如此,笔者注意到,仅在一个多月的时间内,部分大模型大厂已正快速下探到Manus所在的赛道——AI智能体。而另据外媒报道,Manus背后的公司“蝴蝶效应”获得了由美国风投Benchmark领投的一轮融资,融资金额达7500万美元。该轮融资让Manus的估值提升至近5亿美元。

这种迹象表明,市场需要借DeepSeek-R1大模型普及和Manus应用爆火的催化,去化解过去企业智能化转型过程中遗留的大量业务需求和技术空白。AI智能体在产品设计、商业化服务、安全治理等方面,既是新问题,也是老问题。

大厂下探AI智能体,很努力

目前大厂正加快布局AI智能体。

据相关媒体报道,Manus出圈前后,字节就搞了至少5个团队在开发不同AI智能体产品。而据百度官方,新上线的“心响”APP则由一群95后组成的团队,在30天内研发出来。

目前字节推出了智能体协作平台“扣子空间”,通过部署多类型AI智能体,调用精通各项技能的“通用实习生”与各行各业的“领域专家”两种专业身份处理任务。基于“扣子空间”,初步提供两种专家Agent,一是针对股票分析的“华泰A股观察助手”,另一个则是针对行研分析的“用户研究专家”。

而百度亮相的体“心响”APP,则是一款宣称对标Manus的通用AI智能体,涵盖超200个任务类型,包括日常的例行任务、城市旅游规划,专业性较强的深度研究、法律咨询、健康咨询等。

而与Manus合作密切的阿里也动作频频。最早在3月份,阿里就与Manus达成战略合作,双方将基于通义千问系列开源模型,在国产模型和算力平台上实现Manus的全部功能。近日,阿里旗下AI智能体“心流”开启了高级研究模式公测,用户可填写问卷等待邀请。该智能体宣传称能像人类专家一样,自动帮做研究、写报告、写代码。

为了进一步达成AI智能体生态的构建,上述厂商也不约而同先后拥抱MCP机制。

4月9日,阿里云百炼上线业界首个全生命周期MCP服务,同日,腾讯云上线正式发布“AI开发套件”,蚂蚁集团旗下的OceanBase也已实现MCP协议的对接。百度则引入基于百度搜索的MCP Server发现平台和MCP Server服务。目前阿里百度腾讯字节旗下一部分AI智能体产品均支持MCP协议,大厂的生态作用也可进一步凸显。

民生证券指出,A2A协议主要聚焦于智能体之间的通信,而MCP则有助于连接工具和资源。基于类MCP协议+Agentic-based决策路径将成为未来AI智能体的主流范式,大厂有望通过MCP协议引入大量生态伙伴,推动国内AI智能体产业发展。

“我们是不是可以慢一点”

但一路向前狂奔的AI智能体技术是否在迎合当下用户的真正需求?

在安全风险性层面,安全往往是验证一项技术的关键。鉴于AI智能体的设计初衷是自主执行决策、任务或目标,并且理想情况下是在无人监督的情况下,因此风险更高,必须更加密切地关注其使用情境,以降低可预见的风险。

“从整个AI智能体的技术发展来说,它不管是在“攻”还是“防”,现在都是发展初期,没有看到特别多的案例。”Gartner研究高级总监赵宇告诉笔者。

从需求侧,最近一段时间与中国企业客户的交流中,赵宇发现,“客户现在整体的认知相对不足。至少有七成或更多的客户并不了解AI智能体是什么,更罔论与之相关的安全风险。”

“虽然有一些甲方IT负责人已经认识到问题,但这样的声音还不太普遍。他们希望是不是可以放慢AI的步伐,把一些配套的安全治理、风险控制等能力补充起来。”赵宇说。

例如,AI本身的幻觉、提示注入攻击、数据泄露等带来的风险问题,在AI智能体的应用中可能会被进一步放大;AI智能体自主决策的风险,无论是被恶意攻击者利用还是其本身的完备性和能力,带来的是无法防控、不可预测的风险;物理环境层面的风险,同样不容忽视。

此外,随着多智能体协作运行模式的流行,这种模式确实提高了任务效率,但也导致访问控制漏洞的出现,比如访问控制级联失控,以及资源的竞争和冲突。多个智能体协同时,风险级别与安全管理的复杂度急剧上升,传统的安全工具将很难进行监控和异常行为检测。

“多智能体在交互过程中可能需要访问相同资源或者执行任务时,可能会产生一些冲突,那么就会导致系统资源被过度滥用或者任务执行效率降低,就会影响整体的业务和系统稳定性。”赵宇指出。

而在厂商侧,由于AI智能体自身的发展还处于初期,市面上对其安全风险和控制措施的研究同样处于早期阶段。

赵宇进一步指出,部分AI厂商、大模型厂商或AI智能体厂商,都没有配备相应专职的安全团队。厂商目前交付的产品是否可以通过安全测试,或者是否存在有被攻击者可利用的漏洞,等等这些在安全性上都是存疑的。其次,现在大部分企业不管是厂商还是甲方企业,还是比较关注短期的商业利益,所以对于长期安全风险的重视程度其实也不太够。

此外,AI安全可能也需要全局性工作,很难从单一厂商的安全措施就可以覆盖掉整个链条的风险。

正确认识AI智能体

技术常有常新,无需过度画饼。到底何为AI智能体?这个概念其实已经出现审美疲劳。更快速的变化在于,围绕AI智能体(Agent)延伸而出的Agentic AI、Agentic Workflow、MCP、A2A等新名词,已经成为最近一段时间更炙手的话题。

例如,Manus演示视频展示的是一个独立的智能体:AI智能体可在短短几秒钟内对简历进行分类、对候选人进行排名,以及在电子表格中格式化数据。用户还可用于分析股票市场趋势、从互联网上抓取数据,甚至可以从头开始创建一个网站。

按照微软的说法,以后每个人都会使用多个智能体,同时会有大量专业智能体,而不是只有一个超级智能体。那么,每个智能体都有自己的角色和职责,大量多个智能体需要通过通信和协作来达成目标。这也是Anthropic、谷歌两家公司分别提出MCP、A2A的原因,其本质上都是在解决智能体搭建的效率问题。

当下来看,业内对AI智能体的实践目标是使其真正意义上适应复杂的应用场景。AI智能体要构建一个能够自主决策、与环境交互的智能体,需要解决感知、理解、规划、执行等多个环节的技术难题,且各环节之间需要高度协同,从被动执行固定指令到主动进化,其技术架构和实现方式远比传统的软件系统复杂。

比如在自动驾驶领域,当前车企针对端到端自动驾驶系统的改造逻辑,正是对传统系统中的感知、融合、预测、规划、控制、定位等技术模块进行AI融合,在业务流程上体现出的不是简单模块间的拼接。

那么,AI智能体或多个AI智能体,在主动适应复杂工作流程的过程中,就不可能像RPA等技术在严格划分的场景中有效运作,而是基于动态环境和业务流程的变化,以最佳方式实现预期结果。

因此,在应用和实践AI智能体之前,对其原理、成本及风险性等诸多需要考量的关键因素进行解构。

可能对于有多年智能化探索经验的客户而言,希望“慢一点”的本质在于,在AI智能体领域的治理能力和认知的提升,重要的不是听一个个花式技术名词,而是怎么能在大量的实践和基础夯实中找到成功的故事共鸣。

注:文/杨丽,文章来源:钛媒体(公众号ID:taimeiti),本文为作者独立观点,不代表亿邦动力立场。

文章来源:钛媒体

广告
微信
朋友圈

这么好看,分享一下?

朋友圈 分享

APP内打开

+1
+1
微信好友 朋友圈 新浪微博 QQ空间
关闭
收藏成功
发送
/140 0