中科院院士张钹:GPT时代AI产业发展与治理应同时并进

  • 来源:清华大学人工智能国际治理研究院
  • 时间:2023-08-22 22:37:25


【资料图】

(CWW)以ChatGPT为代表的生成式人工智能自推出以来便持续引发关注。8月15日,在由清湛人工智能研究院主办、盛景网联科技股份有限公司承办的“大模型时代,AI赋能产业升级与引领”论坛上,中国科学院院士、清华大学人工智能研究院名誉院长张钹表示,ChatGPT的出现或意味着人工智能(AI)产业向通用性迈出了重要一步,随着基础模型不断发展,未来AI技术的应用领域将进一步拓宽。针对生成式人工智能大模型面临的安全性和稳定性方面的挑战,人工智能产业发展与治理应同时并进。

“与信息科技产业持续高速的发展态势相比,人工智能产业呈现缓慢曲折发展的特点。”张钹指出,人工智能产业和信息产业的发展范式存在明显差异。具体而言,信息产业的发展建立在完善的信息科学技术基础理论支撑的基础上,其硬件和软件属于“通用型”,能够普遍应用在各行各业。而人工智能产业尚缺乏理论基础,无论是基于知识驱动模型的第一代人工智能产业,还是基于数据驱动模型的第二代人工智能产业,其软件和硬件都以模型和算法为基础建立,属于“专用型”,与应用场景和应用领域紧密相关。

值得注意的是,去年11月ChatGPT的问世打破了现有人工智能技术的局限,对人工智能的发展产生了深远影响。

张钹认为,基于人工智能视角,ChatGPT至少实现了两大突破:首先,以ChatGPT为代表的大语言模型,转变了传统的只处理文本形式的缺陷,使机器具备了处理文本语义的能力,并能与人进行自然对话。其次,在ChatGPT出现之前,人工智能仅能在限定领域里完成单个任务,没有实现通用人工智能,而ChatGPT在对话领域实现了通用性,不受领域限制,因此可以说ChatGPT向通用人工智能迈出了一步。

“只有跟领域脱钩,才有可能建立起人工智能的通用理论。ChatGPT在自然语言处理上实现了与领域无关,是人工智能的一个重大突破。”张钹说。

从应用层面来看,目前人工智能技术已在交通、健康、教育、安全、娱乐、金融、智能制造等多个领域得到应用,覆盖范围广泛,涉及行业众多。张钹认为,随着基础模型的突破,作为“AI大模型+机器人”结合的通用智能机器人(具身智能)有望迎来发展机遇。

不过,张钹强调,ChatGPT仅在语言处理领域达到了预期目标,目前还不能被称为通用人工智能。同时,作为一种基于深度学习的自然语言处理模型,ChatGPT在结果输出上具有一定随机性,不大适合应用于不确定、多变、关键和复杂的环境,以及存在质量不一致、不可控、自我解释能力差、常识和推理能力不足等缺陷,这也使得人工智能治理的重要性凸显。

对此,张钹认为,人工智能治理既包括对模型本身的治理,也包括对模型使用者的治理。其中,对模型的治理可通过人工智能对齐(AI Alignment),由人类帮助它通过监督学习(supervised learning)、使用人类反馈的强化学习(RLHF)等方式进行治理。对模型使用者的治理则重点需要防止滥用、误用。

基于生成式人工智能大模型的特点,张钹认为,人工智能产业的开放与治理应同时进行,边开放边治理,治理的最终目的是为了加快推进人工智能产业发展和迭代升级。

关键词:

精彩推送

日经225指数收盘涨0.37%
期货 2023/08/22
“南麒北马”精神永续
保险 2023/08/22

资讯播报

梦见翻车是什么预兆
硬件 2023/08/22
志高空调e7是什么故障
访谈 2023/08/22
重疾医疗保险价格表?
搜索 2023/08/22
东兴晨报
时尚 2023/08/22
太原:暑期太山旅游热
家具 2023/08/22
收获忙-->
家具 2023/08/22
仙人球多久浇一次水?
应急 2023/08/22
香灰琉璃手串 香灰
信息化 2023/08/22