广告
加载中

WAIC观察:大模型秀肌肉机器人抓风口 谁为落地负责?

胡镤心 2024-07-08 16:54
胡镤心 2024/07/08 16:54

邦小白快读

EN
全文速览

2024年世界人工智能大会(WAIC)在上海世博中心举办,聚焦AI助理和视频生成两大方向。

1.大模型厂商推出多款新品,如快手可灵视频生成模型新增高清画质和镜头控制功能,游客可现场体验文字生成视频;阿里通义灵码AI编程助手下载量超350万,每日辅助生成代码超3000万次,应用于金融、制造等行业。

2.机器人展区人形机器人各显神通,如宇树机器狗翻跟头、达闼美人鱼机器人跳舞,核心零部件如灵巧手、伺服器实现突破,成本占整机70%以上。

AI治理成为大会焦点,专家警告风险需谨慎应对。

1.论坛讨论可信、安全、治理话题,9位国际奖项得主和院士参与;风险包括网络攻击放大、社会失业问题、生存威胁,如姚期智指出AI风险远超核武器。

2.实操建议包括AI安全对齐策略,如直接监督微调或基于人类价值观引导,周伯文倡导“AI-45°平衡律”确保性能与安全同步提升。

品牌在AI领域的新品发布和营销策略成为亮点,助力品牌建设。

1.品牌如阿里、支付宝、金山办公推出AI助理产品,支付宝智能助理精通8000项服务,入选“镇馆之宝”,提升用户粘性;金山WPS AI新增写作、阅读助手,提高办公效率,展示品牌创新力。

2.视频生成赛道兴起,快手可灵和商汤Vimi模型吸引游客现场体验,商汤Vimi可生成写真视频和数字分身,头发、服饰变化自然,品牌借此展示技术优势。

消费趋势和用户行为观察显示AI应用潜力。

1.用户行为上,游客积极参与生成视频和AI互动,如出门问问3D动捕表演,反映对AI娱乐需求增长;AI助理在金融、医疗等垂直行业应用,显示消费向智能化转移趋势。

2.产品研发方向包括可控编辑功能,如阿里寻光平台支持剧本创作和人物控制,简化视频编辑,品牌可借鉴优化产品设计。

政策解读和市场机会提示人形机器人增长潜力,但风险需防范。

1.工信部《人形机器人创新发展指导意见》计划2025年建立创新体系,2027年深度融入实体经济;市场年增长率超20%,预计2025年达数百亿规模,类似新能源汽车渗透曲线。

2.消费需求变化显示机会在科研和汽车主机厂场景,如开普勒机器人计划下半年量产用于科研,特斯拉示范作用推动落地;风险包括人形机器人应用困难,目前主要出口欧美,AI临界点未突破。

事件应对措施和商业模式创新提供学习点。

1.正面影响如大模型厂商首发首秀新品,卖家可关注AI助理和视频生成赛道;负面影响如AI安全风险,专家薛澜指出幻觉、数据安全问题,卖家需加强风控。

2.合作方式包括产业链利用,如人形机器人借力新能源车资源(AI芯片、算法),卖家可探索跨行业合作;扶持政策未直接提及,但论坛讨论治理框架可参考。

产品生产和设计需求聚焦机器人核心零部件突破,推动商业机会。

1.核心零部件如灵巧手、伺服器实现国产化突破,睿尔曼机械臂出口日本欧洲;成本结构显示零部件占整机成本超70%,需降低成本满足大规模商用,工厂可优化生产流程。

2.设计需求包括灵敏度提升,如青龙人形机器人43个自由度轻拿杯子,开普勒机器人40个关节行走复杂地形,工厂需研发高精度部件。

数字化和电商启示来自AI应用案例。

1.商业机会在硬件先行阶段,如宇树CEO预测人形机器人明年跑速超人类,工厂可切入体育、演出领域;数字化启示如大模型辅助感知(计算机视觉替代雷达),但硬件研发作用有限。

2.案例显示产业链协同,如利用新能源车资源(电力、芯片),工厂可推进电商化供应链管理。

行业发展趋势显示AI视频生成和治理技术兴起,客户痛点明确。

1.新技术包括视频生成模型如快手可灵、商汤Vimi,支持高清画质和人物控制;大模型安全对齐策略如监督微调或价值观引导,解决生成一致性挑战。

2.客户痛点如AI风险放大网络攻击、隐私侵犯,专家高文警告犯罪问题;能源环境问题也被薛澜提及,服务商需关注安全投入不足。

解决方案聚焦治理框架和性能平衡。

1.发展趋势上,AI助理广泛应用(通义灵码日生成代码3000万次),服务商可开发垂直行业智能体;黄铁军建议AGI分级,L0阶段存在误用风险,未来3年扩展具身智能。

2.解决方案包括周伯文“AI-45°平衡律”,确保安全与性能同步;论坛讨论数据交易和伦理框架,服务商可提供合规服务。

平台的最新做法和需求显示AI助理集成成为重点。

1.平台如支付宝、金山办公升级AI助理功能,支付宝智能助理作为入口连接生活、医疗智能体,金山WPS AI新增设计助手,提升用户效率;平台招商未直接提及,但新品首发如阿里寻光视频平台,可吸引内容创作者。

2.商业对平台需求包括可控编辑,如寻光支持剧本创作和对象修改,平台需简化交互(像PPT操作);问题如数据安全挑战,论坛强调治理需求。

运营管理和风向规避需关注风险提示。

1.最新做法上,平台如快手推出可灵网页版限时免费,运营可借活动吸引流量;风向规避如AI风险,姚期智分类网络、社会、生存风险,平台应加强算法监控。

2.案例显示头部企业如抖音、月之暗面未参展,平台商可学习参展商策略;管理启示来自周伯文平衡律,避免长期偏离安全。

产业新动向聚焦人形机器人和AI风险,政策法规建议丰富。

1.新动向包括人形机器人硬件突破,如宇树H1和开普勒行走功能;AI应用如蛋白质设计、工业酶分解展示创新;问题如AI幻觉、自主系统威胁,薛澜指出技术内在风险。

2.政策法规建议来自论坛讨论,如姚期智呼吁多专家协作治理;工信部指导意见计划2025年创新体系,研究者可评估落地路径。

商业模式和启示基于专家观点。

1.商业模式上,人形机器人渗透曲线类似新能源汽车,利用电力架构和产业链资源;黄铁军AGI分级启示L1阶段人类可理性信任AI。

2.观点如王兴兴预测AI突破在1-5年,研究者可探索临界点;风险治理建议包括分级监管和价值观引导,提供学术研究框架。

返回默认

声明:快读内容全程由AI生成,请注意甄别信息。如您发现问题,请发送邮件至 run@ebrun.com 。

我是 品牌商 卖家 工厂 服务商 平台商 研究者 帮我再读一遍。

Quick Summary

The 2024 World Artificial Intelligence Conference (WAIC) was held at the Shanghai Expo Center, focusing on AI assistants and video generation.

1. Major model developers launched new products. For instance, Kuaishou's Kling video generation model added high-definition quality and lens control features, allowing visitors to experience text-to-video generation on-site. Alibaba's Tongyi Lingma AI programming assistant has surpassed 3.5 million downloads, assisting in generating over 30 million lines of code daily, and is applied in industries like finance and manufacturing.

2. The robotics exhibition featured humanoid robots showcasing diverse capabilities, such as Unitree's robotic dog performing flips and CloudMinds' mermaid robot dancing. Breakthroughs were achieved in core components like dexterous hands and servos, which account for over 70% of the total machine cost.

AI governance became a key focus, with experts warning of risks requiring cautious management.

1. Forums discussed topics of trustworthiness, safety, and governance, with participation from 9 international award winners and academicians. Risks highlighted include amplified cyberattacks, societal unemployment, and existential threats, with Andrew Yao noting AI risks far exceed those of nuclear weapons.

2. Practical recommendations included AI safety alignment strategies, such as direct supervised fine-tuning or guidance based on human values. Zhou Bowen advocated for an "AI-45° Balance Law" to ensure synchronous improvement of performance and safety.

New product launches and marketing strategies in the AI domain emerged as highlights, aiding brand building.

1. Brands like Alibaba, Alipay, and Kingsoft WPS introduced AI assistant products. Alipay's Smart Assistant, proficient in 8,000 services, was selected as a "Treasure of the Pavilion," enhancing user stickiness. Kingsoft WPS AI added writing and reading assistants, improving office efficiency and showcasing brand innovation.

2. The rise of video generation attracted attention, with Kuaishou's Kling and SenseTime's Vimi models drawing visitors for live experiences. SenseTime's Vimi can generate portrait videos and digital avatars with natural hair and clothing changes, allowing brands to demonstrate technological prowess.

Consumer trends and user behavior observations reveal the potential of AI applications.

1. User behavior showed active participation in video generation and AI interactions, such as Mobvoi's 3D motion capture performances, reflecting growing demand for AI entertainment. The application of AI assistants in vertical industries like finance and healthcare indicates a shift towards intelligent consumption.

2. Product R&D directions include controllable editing features, exemplified by Alibaba's Xunlight platform supporting script creation and character control, simplifying video editing—a approach brands can借鉴 for product design optimization.

Policy interpretations and market opportunities highlight the growth potential of humanoid robots, though risks require mitigation.

1. The Ministry of Industry and Information Technology's "Guiding Opinions on Innovative Development of Humanoid Robots" plans to establish an innovation system by 2025 and achieve deep integration into the real economy by 2027. The market is growing at over 20% annually, projected to reach hundreds of billions by 2025, following a penetration curve similar to new energy vehicles.

2. Shifting consumer demand reveals opportunities in research and automotive OEM scenarios. For example, Kepler Robotics plans mass production for research in the second half of the year, with Tesla's demonstrations accelerating adoption. Risks include application difficulties for humanoid robots, current primary exports to Europe and America, and the AI threshold not yet being breached.

Event response measures and business model innovations offer learning points.

1. Positive impacts include major model developers debuting new products; sellers should focus on the AI assistant and video generation sectors. Negative impacts involve AI security risks, with expert Xue Lan highlighting issues like hallucinations and data security, necessitating enhanced risk control by sellers.

2. Collaboration methods include leveraging industrial chains, such as humanoid robots utilizing resources from the new energy vehicle sector (AI chips, algorithms). Sellers can explore cross-industry partnerships. While direct subsidies weren't mentioned, forum discussions on governance frameworks provide reference points.

Product manufacturing and design demands focus on breakthroughs in core robot components, driving commercial opportunities.

1. Core components like dexterous hands and servos have achieved localization breakthroughs, with Realman robotic arms exported to Japan and Europe. The cost structure shows components exceed 70% of total machine cost, requiring cost reduction for large-scale commercialization—factories can optimize production processes.

2. Design requirements include enhanced sensitivity, exemplified by the Qinglong humanoid robot's 43 degrees of freedom for gently holding cups and Kepler's 40-joint walking on complex terrain, necessitating R&D into high-precision components.

Digitalization and e-commerce insights stem from AI application cases.

1. Commercial opportunities lie in the hardware-first phase; for instance, Unitree's CEO predicts humanoid robots will outrun humans next year, allowing factories to enter sports and performance sectors. Digitalization insights include large models aiding perception (computer vision replacing radar), though hardware R&D's role remains limited.

2. Cases demonstrate industrial chain synergy, such as utilizing new energy vehicle resources (power, chips). Factories can advance e-commerce supply chain management.

Industry trends show the rise of AI video generation and governance technologies, with clear client pain points.

1. New technologies include video generation models like Kuaishou's Kling and SenseTime's Vimi, supporting HD quality and character control. Safety alignment strategies for large models, such as supervised fine-tuning or value-based guidance, address generative consistency challenges.

2. Client pain points include AI amplifying risks like cyberattacks and privacy violations, with expert Gao Wen warning of criminal issues. Energy and environmental concerns were also raised by Xue Lan, highlighting insufficient safety investment by service providers.

Solutions focus on governance frameworks and performance balance.

1. Development trends show widespread AI assistant application (Tongyi Lingma generates 30 million code lines daily); service providers can develop vertical industry agents. Huang Tiejun suggested AGI grading, noting misuse risks at the L0 stage and expansion into embodied intelligence within three years.

2. Solutions include Zhou Bowen's "AI-45° Balance Law" for synchronous safety and performance improvement. Forum discussions on data transactions and ethical frameworks indicate opportunities for compliance services.

Platform strategies and demands highlight AI assistant integration as a priority.

1. Platforms like Alipay and Kingsoft WPS upgraded AI assistant features. Alipay's Smart Assistant serves as an entry point connecting lifestyle and healthcare agents, while Kingsoft WPS AI added design assistants to boost user efficiency. While direct merchant recruitment wasn't mentioned, new product debuts like Alibaba's Xunlight video platform can attract content creators.

2. Commercial demands for platforms include controllable editing, such as Xunlight's support for script creation and object modification, requiring simplified interactions (like PPT operations). Challenges like data security were emphasized in governance discussions.

Operations management and risk mitigation require attention to warnings.

1. Latest practices include platforms like Kuaishou offering limited-time free access to Kling's web version; operations can leverage activities to attract traffic. Risk mitigation involves addressing AI risks categorized by Andrew Yao into network, societal, and existential threats, necessitating enhanced algorithm monitoring.

2. Cases show leading companies like ByteDance and Moon Dark Side abstaining from exhibition; platform operators can learn from exhibitor strategies. Management insights from Zhou Bowen's balance law advise against long-term safety deviations.

Industry trends focus on humanoid robots and AI risks, with rich policy and regulatory recommendations.

1. New developments include hardware breakthroughs in humanoid robots, such as Unitree's H1 and Kepler's walking capabilities. AI applications in protein design and industrial enzyme decomposition showcase innovation. Challenges include AI hallucinations and autonomous system threats, with Xue Lan pointing to inherent technological risks.

2. Policy recommendations from forums include Andrew Yao's call for multi-expert collaborative governance. The MIIT's guidance plans for a 2025 innovation system offer researchers pathways to assess implementation.

Business models and insights are based on expert views.

1. Business models suggest humanoid robots following a penetration curve similar to new energy vehicles, leveraging electrical architectures and industrial chain resources. Huang Tiejun's AGI grading implies rational human trust in AI at the L1 stage.

2. Predictions like Wang Xingxing's forecast of AI breakthroughs within 1-5 years invite exploration of critical thresholds. Risk governance recommendations include tiered regulation and value guidance, providing academic research frameworks.

Disclaimer: The "Quick Summary" content is entirely generated by AI. Please exercise discretion when interpreting the information. For issues or corrections, please email run@ebrun.com .

I am a Brand Seller Factory Service Provider Marketplace Seller Researcher Read it again.

文丨胡镤心

【亿邦原创】在上海世博中心举办的2024年世界人工智能大会是一场名副其实的“AI盛宴”,500余家企业参展,国内企业和国际企业占比超50%,展品数量超1500项,首发新品超50件。其中,大模型厂商聚焦于AI助理与视频生成两个方向,机器人厂商则将核心零部件突破当作最佳卖点,人形机器人有热度无应用。

一进世博展览馆的正门,18款列队站好的人形机器人向游客招手。H1会场内,蹦跶着各种尺寸各种形态的机器人,宇树科技的机器狗翻着跟头到处卖萌,逐际动力双足机器人摇头晃脑到处溜达,达闼的美人鱼机器人翩翩起舞,穹彻智能的机械臂在叠衣服、削黄瓜。

H2会场则挤满大模型厂商,快手让游客现场使用可灵生成短视频,出门问问通过3D动捕进行二次元表演,周鸿祎的数字人在实时回答游客提问。

二楼纵横排列着众多AI创业企业,有蛋白质设计、工业酶分解、边缘侧计算、3D交互、流程优化等各种AI创新应用。

还有在读博士生来展馆寻找灵感与资源,有一位97年的港大医疗AI在读博士告诉亿邦动力,他本来在教职和创业之间犹豫,来展馆看看现有的AI应用,又对自己的创业方向充满信心,“现在还没有我这个方向(牙科)的AI创业项目,而且很多项目技术含量没我高。”

与企业狂欢相比,在世博中心的论坛中,“可信”、“安全”、“治理”成为关键词。本届WAIC也被冠名为“人工智能治理高级别会议”,9位图灵奖、菲尔兹奖、诺贝尔奖得主以及88位中外院士汇聚一堂,共同探讨人形机器人的法治与伦理、可信产业发展、数据安全与交易等话题。

在40度的高温里,人群不断在世博中心和世博展览馆之间穿梭。

世博中心的咖啡馆从每天上午10点开始爆单,世博展览馆内的墙角墙根坐着众多歇脚的参观者,每个人似乎都坚信AI爆发近在眼前,也有人提醒“变化太快,我们当下的所有判断都有可能是错的。”

“Who care?Come on!”有人在展馆门口大喊。

01

AI应用首发首秀创历届之最

不少厂商将WAIC当作新品发布会,首发首秀的大模型及应用有:

商汤科技“商汤日日新5.5”

科大讯飞“讯飞星火大模型V4.0”

星环科技“基于AIPC的星环无涯大模型”

百川智能“最新一代基座大模型Baichuan 4”

阶跃星辰“Step-2万亿参数语言大模型”

高通“全球首个在Android智能手机上运行的大语言和视觉助理大模型”

联汇科技“多模态大语言模型——OmModel V4及智能体应用”

阿里巴巴“通义灵码”

蚂蚁集团“基于蚂蚁百灵大模型的‘支付宝智能助理’”

金山办公“WPS AI 企业版”

出门问问“短视频自动生成平台「元创岛」”

华为“昇腾AI全流程使能平台”

亿邦动力注意到,本次大模型厂商都将AI助理与视频生成当作重点。

阿里云的AI编程助手通义灵码入选WAIC“镇馆之宝”。“通义灵码”上线于2024年4月2日。通义灵码精通200多种编程语言,可以辅助写代码、读代码、查Bug、优化代码,下载量超350万,每日辅助开发者生成代码超3000万次,已广泛应用于金融、制造、互联网、交通、汽车、能源等行业。据了解,阿里云已经在内部推行全员AI编码。

支付宝智能助理同样入选WAIC“镇馆之宝”。今年4月开始,打开支付宝首页下拉就能唤醒智能助理,这是一个精通超8000项数字生活服务的AI个人助理,也是专业AI智能体的入口,一键连接生活、金融、医疗等垂直行业的AI智能体。

金山办公也升级了自己的AI助理WPS AI,在本届世界人工智能大会上,WPS AI全新增加AI写作助手、AI阅读助手、AI数据助手、AI设计助手,进一步提高个人用户的办公效率。

除了AI助理,视频生成赛道也开始起飞。

快手视频生成模型可灵自6月6日以来便引发全球关注。在WAIC期间,快手宣布可灵再次升级,新增高清画质版本功能,首尾帧控制与镜头控制,同时发布可灵AI网页版,限时免费。7月6日中午,所有新功能均会上线。在快手展厅,游客可使用现场提供的可灵账号,输入文字,现场进行生成视频。

商汤也发布首个可控人物视频生成大模型Vimi,也入选WAIC“镇馆之宝”,用户只需上传一张任意风格的照片,就能生成和目标动作一致的人物类视频,比如写真视频、数字分身、表情包等,头发、服饰、背景变化、光影变化等都能自动生成,而且手势、头发和肢体十分合理、自然、和谐,不会显得呆板和失真。

阿里达摩院则推出一站式AI视频创作平台“寻光”,主打视频编辑功能。AI视频内容的可控编辑,包括对复杂剧情的理解、生成对象的一致性等,仍然是当前算法所面临的一大挑战。寻光可以辅助用户创作剧本、分镜图等,支持对生成及上传素材进行丰富的AI编辑,包括人物控制、场景控制、运镜控制、目标新增/消除/修改等10多种功能。并且在交互方面,主打“让视频编辑像操作PPT一样简单”。

MiniMax创始人、CEO闫俊杰现场透露,MiniMax的AI视频生成产品将在下个月面世。

也有厂商将内测中的产品demo带到现场。

展会上,MiniMax展出了内测中的AI音乐生成abab-music,预计下半年发布。

百川智能带来内测版医疗应用AI健康顾问,预计Q3发布。

抖音、月之暗面、零一万物等头部AI企业尚未参加。

02

机器人各显神通

本届WAIC,机器人厂商吸引最多热度,机器人分论坛人满为患。

首发首秀的机器人包括:

特斯拉人形机器人擎天柱二代(Optimus)”

“达闼双足人形机器人XR4”

国创中心“青龙人形机器人”

宇树“Unitree H1”

“星动纪元L2”

卓益得机器人“行者二号 (X02-lite)”

云深处科技“绝影Lite3灵巧型智能机器狗”

机器人在灵敏度上各显神通,亮点聚焦于核心零部件突破。

人形机器人(上海)有限公司自主研发人形机器人“青龙”,身高185cm、体重80kg、全身多达43个主动自由度,手指可以轻拿轻放杯子,即便是柔软的面包,也能在抓起时保证面包外形的完整性。

开普勒的人形机器人身高175cm,体重70kg,全身具备40个关节自由度、80多个传感器,具备复杂地形行走、智能规避障碍等多种功能。

机器人的高端核心零部件长期为日本欧洲企业把控,本次展会上,不少厂商将核心零部件作为主要看点,灵巧手、伺服器、机器人“大脑”等部件均实现突破。睿尔曼工作人员告诉亿邦动力,他们的机械臂产品预计出口日本欧洲,目前以日本为主要市场。

也有三家硬件厂商表示,大模型对硬件研发帮助有限。“大模型的作用主要体现在感知层面,以前我们用雷达感知周围情况,现在可以通过计算机视觉进行感知分析。大模型能力属于单点突破,对于整个硬件的研发与主机开发,作用有限。”

几乎所有人都对人形机器人发展抱有热切期待。

中国科学院院士毛明表示,人形机器人正在迅速成为智能制造、医疗、家庭服务等行业的变革力量。全球市场年增长率超 20%,预计 2025 年达数百亿规模。

宇树科技CEO王兴兴认为,最迟明年年底之前,全球范围内一定会出现比人跑得快的人形机器人,“比如说100米跑进10秒,在体育项目和文艺演出上,人形机器人比做家务应该更得心应手。”

工信部印发《人形机器人创新发展指导意见》指出,我国计划到2025年初步建立人形机器人创新体系,至2027年人形机器人深度融入实体经济,成为重要的经济增长新引擎。

几乎所有从业者都认同,人形机器人的渗透曲线预计与新能源汽车的曲线类似,因为人形机器人和电动车都采用了感知层、决策层、执行层的架构,都以电力为直接能源,人形机器人也可以利用新能源车产业链的资源,例如AI芯片、自动驾驶算法和视觉解决方案。

目前,人形机器人正处于初期硬件先行阶段,硬件性能的提升成为了推动行业发展的关键因素。从成本结构来看,人形机器人核心零部件的成本超过了整机成本的70%,核心零部件的成本降低是满足大规模商用的落地需求的关键。

不过人形机器人热度虽高,落地依然困难。

多位参展的人形机器人厂商表示,人形机器人目前主要出口欧美,使用场景为科研场景。开普勒机器人则计划今年下半年量产先行者K1人形机器人,预计售价在3万美元左右,用于科研。

由于特斯拉的示范性作用,也有厂商将汽车主机厂当作主要落地场景。

王兴兴也认为,人形机器人距离真正大规模应用的主要限制在于机器人人工智能方面尚未突破临界点,随着近年来在人工智能取得快速进步,可能在1-2年内会有一些小突破,3-5年内,有足够潜力实现实质性突破。

03

AI带来的风险远超核武器?

人工智能作为一个新生产力工具已经被打磨好,使用这一工具的人类还没做好准备。

作为一个工具,当AI被正面价值观引导,并置于严格的伦理和监管之下,它能展现出惊人的向善力量;若AI缺乏有效监管和道德约束,也有可能加速网络攻击、侵犯个人隐私、社会不平等社会问题,甚至成为战争工具。

“利用AI来犯罪只是时间问题。”中国工程院院士、北京大学博雅讲席教授高文表示。

与展览馆的激情四射相比,世博中心的大会论坛则将目光聚焦于人工智能治理问题,本届WAIC也被冠名“人工智能全球治理高级别会议”。

不少专家学者就此发出预警。图灵奖得主姚期智认为AI风险主要来自三个方面:

它是网络风险的延伸和扩大,AI能力的出现使得传统的网络风险被放大。管理数据难度会放大100倍。

社会风险,AI可能对某些领域带来颠覆式风险,也可能带来新的失业问题。

生存和存在的风险,AI风险相比于核风险可能更严峻,这都需要很多的专家来一起解决,包括科学家、政府人士、律师及经济学家都需要参与进来。

清华大学人工智能国际治理研究院院长薛澜则认为,人工智能带来的风险包括:

第一,技术内在问题,包括所谓幻觉,另外自主人工智能系统长远来讲,可能对人类社会造成威胁;

第二,基于技术开发带来风险,包括数据安全问题、算法歧视、能源环境等等问题;

第三,技术应用,包括误用或者滥用,长远对社会就业带来影响。”

“我们对AI系统的理解仍然不够深入,用于评估和降低风险的方法存在局限性,目前还没有很好的方法去阻止风险的发生。”图灵奖得主约书亚·本吉奥指出,通用人工智能非常有用,可以应用于许多伟大的应用中,但前提是必须妥善管理。

“我们目前的教育体系没办法培养未来了解AI的一代人。”另一位图灵奖得主罗杰·瑞迪认为,AI风险确实应该得到高度关注,同时我们也不能因噎废食。现在的教育体系跟不上AI时代,年轻人需要学习用AI做好自己的工作。

智源研究院理事长黄铁军则建议对AGI进行分级。目前 AI 仍处于 L0 级的生成式人工智能(GAI)阶段,认知低于人类,只能替代部分人类智能,存在善用、误用、滥用与恶用的可能。L1 认知超人的阶段并不遥远,这意味着彼时人类可以躺平、理性信任 AI。黄铁军推测,未来3年,大模型将扩展到视觉、听觉、具身、行动等通用智能,规模变大,尺寸变小,成为具身智能的大脑。

在大模型安全对齐的过程中,主要有两种策略,一种是直接监督微调,收集大量高质量、正面、安全的信息引导大模型,让它在学习过程中逐渐形成正确的判断和安全的行为模式;另一种是基于人类偏好和价值观,侧重理解和模拟人类思考方式,不仅告诉大模型哪些行为是安全的,还尝试让它理解为什么是安全的,让大模型更好地理解和遵循人类的偏好和价值观。

AI安全之所以成为严重问题,在于对安全的投入远远落后于对性能的投入。上海人工智能实验室主任首席科学家周伯文倡导,AI研发应遵循“AI-45°平衡律”原则,即在长期发展中,要大体上沿着45度安全与性能平衡发展,保持性能与安全的同步提升,允许短期波动,但避免长期偏离这一平衡线。

文章来源:亿邦动力

广告
微信
朋友圈

FAQ回顾

2024世界人工智能大会有哪些主要展示内容?

大会展示500余家企业1500多项展品,大模型厂商重点展示AI助理和视频生成应用,机器人厂商展示人形机器人和核心零部件突破,包括特斯拉擎天柱二代、宇树H1等新品。

人形机器人产业发展面临哪些挑战?

人形机器人目前主要应用于科研场景,出口欧美,核心零部件成本占整机70%以上。大规模应用受限于AI技术未达临界点,预计3-5年内实现实质性突破。

人工智能治理主要关注哪些风险?

AI风险包括网络风险放大、数据安全、算法歧视、就业冲击等生存风险。专家建议遵循AI-45°平衡律原则,保持性能与安全同步发展,对AGI进行分级管理。

这么好看,分享一下?

朋友圈 分享

APP内打开

赞 +1
+1
微信好友 朋友圈 新浪微博 QQ空间
关闭
收藏成功
发送
/140 0