本文核心是7月15日《人工智能拟人化互动服务管理暂行办法》正式施行前,豆包、千问两大厂先后下线主App中的关系型智能体功能,并非智能体赛道整体退潮,只是软色情、擦边灰色增长部分退潮,给普通用户的核心干货如下:
1. 智能体行业接下来会分层发展,办公协作、写代码、做纪要这类任务型效率智能体不会受影响,会继续正常发展,普通用户可以放心使用这类提升效率的产品。
2. 情感陪伴、虚拟恋人这类关系型智能体不会消失,但会进入强监管阶段,软色情、擦边、侵权仿冒的内容会被大规模清理,用户要自觉远离违规内容,未成年人需要家长做好引导防护。
3. 结合AI情感陪伴的情欲交互硬件已经被新规明确禁止,后续很难上市流通,普通用户不要购买这类违规产品,避免自身权益受损。
新规落地后智能体赛道迎来重新洗牌,给AI相关品牌商的干货总结如下:
1. 消费趋势方面,孤独经济带来的情感陪伴需求确实真实存在,但依靠软色情、擦边内容拉动增长的路径已经完全走不通,品牌不能再用灰色内容做智能体业务的增长跳板。
2. 产品研发层面,布局关系型智能体业务必须把合规成本纳入预算,提前补上年龄分级、未成年人保护、内容审核、角色版权审核、诱导消费管控等合规模块,满足监管要求。
3. 品牌风险层面,做大众AI工具的主品牌,要将高风险的情感互动功能剥离出主App,避免违规内容风险损害主品牌的公共信任,影响整体业务发展。
4. AI硬件品牌需要提前明确产品定义,不能借陪护、情绪支持的名义包装情欲互动产品,否则会直接面临合规障碍,产品无法上市。
本次新规落地带来智能体赛道的大调整,给相关AI业务卖家的干货总结如下:
1. 政策解读:本次新规没有停留在内容审核层面,而是把监管边界延伸到了产品形态,明确规定情感陪护可以合规开展,但借陪护关系导向情欲消费的行为被禁止,同时明确禁止提供亲密性模拟交互内容或硬件功能。
2. 机会提示:办公协作、企业服务、效率工具类的任务型智能体不受本次监管冲击,仍然属于有潜力的增长市场,卖家可以重点布局这类业务。
3. 风险提示:过去关系型智能体野放式增长的模式已经走不通,合规成本大幅上升,没有能力承担全链路审核、风控成本的小团队,建议谨慎入场。
4. 做AI硬件的卖家需要重新评估产品定位,带亲密模拟结构的产品已经不符合合规要求,要及时调整方向,避免开模生产后产生巨额损失。
新规实施后智能体赛道出现明确分流,给AI相关生产工厂的干货总结和启示如下:
1. 产品生产设计需求已经发生变化,原本计划推进的“拟人化AI+情欲硬件”项目已经触碰监管红线,不能继续开模生产,需要立刻调整设计方向,剥离亲密交互相关的结构和功能。
2. 商业机会方面,任务型智能体配套硬件、合规运营的情感陪护硬件,比如正规老人照护终端、儿童辅助设备仍然有稳定的市场空间,工厂可以主动对接合规品牌方获取订单。
3. 做AI相关业务的启示:工厂布局AI相关产品,必须在设计阶段就明确产品定位,提前开展合规风险评估,不能跟风布局灰色项目,否则产品生产铺货后整改成本极高,会造成难以挽回的损失。
4. 工厂需要建立产品设计阶段的合规审核机制,提前匹配监管要求,降低产品上市后的合规风险。
新规落地后智能体行业正式进入合规化发展阶段,给AI相关服务商的干货总结如下:
1. 行业发展趋势:智能体赛道不会整体降温,只会进入分层发展阶段,任务型智能体加速发展,关系型智能体进入强合规时代,灰色的拟人AI+情欲硬件会被行业出清,合规已经成为全行业的核心刚性需求。
2. 客户核心痛点:当前AI平台和品牌方的核心痛点转变为如何管控合规风险,关系型智能体平台需要覆盖内容审核、版权审核、未成年人保护、防沉迷、风险干预等全链路合规能力,大部分中小玩家没有能力独立搭建这套体系。
3. 新的商业机会:服务商可以针对性开发合规相关解决方案,比如给关系型智能体平台提供违规内容审核服务、用户身份年龄验证服务、角色版权核验工具,给AI硬件厂商提供产品合规评估咨询服务,这些都是新增的市场需求,有较大的增长空间。
此次豆包、千问调整智能体业务的动作,给AI平台商的干货提示如下:
1. 风险规避方面,做大众AI助手的主平台,要将高风险的关系型智能体、UGC智能体广场、开放情感互动功能从主入口剥离,不能再把高风险互动当成低成本增长工具,避免合规风险牵连主平台,损害平台的公共信任。
2. 运营管理调整:如果平台选择保留关系型智能体业务,必须尽快完善运营规则,把年龄分级、内容审核、版权审核、防沉迷、诱导消费管控、风险提示等合规要求融入全运营流程,落实平台的分发管理责任。
3. 招商调整:平台不能再引入主打擦边亲密互动的关系型智能体项目,也不能引入不合规的AI情欲硬件商家,避免平台因为分发违规内容承担监管责任。
4. 业务方向调整:平台可以重点倾斜资源发展任务型智能体业务,这类业务风险清晰、需求稳定,符合监管方向,不会带来额外的合规压力。
此次新规落地和头部大厂的业务调整,反映了AI智能体产业的最新发展动向,给产业研究者的干货总结如下:
1. 产业新动向:智能体产业正式告别野蛮生长,进入合规化分层发展阶段,产业不会整体降温,任务型智能体会继续加速发展,关系型智能体进入强合规运营阶段,灰色情欲相关智能产品会被行业出清,合规能力、风控体系已经成为新的核心竞争力。
2. 新出现的产业问题:关系型智能体原来的商业模式建立在情绪依赖和低成本UGC增长基础上,合规成本显性化后,原有商业模式需要重构,中小团队的轻资产快速增长模式难以为继,行业集中度会提升。
3. 政策启示:本次监管没有停留在内容治理层面,而是延伸到产品定义和产品形态,给AI行业监管提供了新的范式,也给产业研究提出了新议题,需要研究合规成本对AI创新的影响,以及如何平衡真实需求满足和社会风险管控。
4. 后续可以重点关注合规框架下关系型智能体的可持续商业模式,以及任务型智能体的产业落地路径等方向。
返回默认