当前视讯!经济日报:人工智能大模型要按暂停键吗?
来源:北京日报 发布时间:2023-05-14 08:19:24


(相关资料图)

ChatGPT引发的人工智能大模型竞赛,令很多人担心人工智能失控。3月底国际上就有一批专家发出联名公开信呼吁:立即暂停训练比GPT-4更强大的人工智能系统。人工智能大模型要按暂停键吗?

从可行性来看,这个暂停键目前还没人能按下去。就在5月10日,谷歌宣布推出最新的大型语言模型PaLM 2,称其在部分任务上已经超越GPT-4。这很明显是无视了公开信的呼吁,公开对GPT-4等竞争对手发起挑战。

人工智能大模型已经成为当前国际投资热点,各方不断加码,竞赛不断提速。技术狂飙的背后,是科技企业和风险投资公司的盈利冲动,除非触发政府部门的强制干涉,依赖行业自律按下暂停键的目标不太可能实现。此外,目前大模型的权力集中在“大玩家”手中,现实中行业垄断的危害比未来可能出现的人工智能危害更迫在眉睫,与简单叫停大模型研究相比,规范人工智能“玩家”是更紧迫的需求。技术创新难以抑制,与其叫停研究,还不如尽快制定和完善人工智能治理相关法规,让创新研究在阳光下运行,在规则内运行。

从复杂性来看,大模型的健康发展本身就有赖于技术进步,需要以人工智能来监督、限制人工智能。

人工智能大模型“涌现”出写文章、做翻译、写代码、制图像等许多意想不到的能力,部分能力和人不相上下,生产速度则远超人类,已让许多人感受到冲击。它为什么能够达到目前的能力?目前大模型的“智能涌现”是个黑箱,没有人能理解、预测或可靠地控制这些大模型,甚至模型的创造者也不能。

对人工智能大模型开黑箱、对数据泄露上锁、对虚假内容做标记、对网络攻击等危险行为实施监测防范,一方面需要从科研伦理规范上增加透明度,让大模型研发、训练、生成、推理的链路变得更加透明;另一方面也需要使用好技术工具,用人工智能大模型来帮助人类理解和控制人工智能大模型。这话听起来绕口,实际已有成功案例。ChatGPT的缔造者美国OpenAI公司近日发布一项成果,就是用GPT-4大模型来自动解释GPT-2大模型的行为,在人工智能可解释性研究领域获得重大突破。

眼见可为虚,耳听也不为实。人工智能大模型以其彪悍的信息造假能力,对社会信任带来重大冲击。从一些调查结果看,不少人赞同暂停超越GPT-4能力的大模型研究,先解决已知风险再按启动键。人工智能是国家战略技术,是未来引领经济发展的助推器。对中国人工智能产业而言,需要的不是暂停研究,而是吸取国外大模型发展的前车之鉴,让大模型研发在合规下运行。

科技治理为科技创新保驾护航,人工智能治理已成为重要的国际科技竞争力。大禹治水,“堵”不如“疏”。在研发人工智能大模型的同时,构建高效透明的科研伦理商谈审批机制,拆壁垒、缓痛点、疏堵点,才能建立起更有竞争力、更可持续发展的人工智能产业生态。

关键词:

猜你喜欢

当前视讯!经济日报:人工智能大模型要按暂停键吗?

当前视讯!经济日报:人工智能大模型要按暂停键吗

ChatGPT引发的人工智能大模型竞赛,令很多人担心人工智能失控。3月底国际上就有一批专家发出联名公...更多

2023-05-14 08:19:24
焦点消息!CBA总决赛:辽宁大胜浙江拿下“冠军点”

焦点消息!CBA总决赛:辽宁大胜浙江拿下“冠军点”

2022-2023赛季中国男子篮球职业联赛(CBA)总决赛第三场,辽宁男篮13日在沈阳主场迎战浙江男篮。最终,辽宁男更多

2023-05-14 07:12:27
北京今天最高气温31℃,傍晚西部有分散性雷阵雨 每日讯息

北京今天最高气温31℃,傍晚西部有分散性雷阵雨

市气象台14日6时发布:今天白天晴间多云,傍晚西部有分散性雷阵雨,北风转南风二三级,最高气温31℃...更多

2023-05-14 07:29:35
环球聚焦:布基纳法索西北部发生袭击事件致33人死亡

环球聚焦:布基纳法索西北部发生袭击事件致33人死

瓦加杜古消息:布基纳法索地方政府官员13日发表声明说,该国西北部11日发生恐怖袭击,造成33人死亡...更多

2023-05-14 07:09:12
“五个女博士”大起底:广告曾被北大“打假”

“五个女博士”大起底:广告曾被北大“打假”

近日,胶原蛋白饮料品牌“五个女博士”广告被质疑侮辱女性登上热搜。12日,有媒体报道,北京市市场...更多

2023-05-14 07:17:44
世界最新:各地迎来汛期 病险水库隐患调查如何查?怎么治?

世界最新:各地迎来汛期 病险水库隐患调查如何查

2023-05-1407:07·北京日报客户端央视新闻客户端我国于今年3月24日入汛,据预测,今年汛期区域性、...更多

2023-05-14 07:22:06
天天实时:全国文物系统排查整治重大风险隐患

天天实时:全国文物系统排查整治重大风险隐患

本报讯(记者牛伟坤)全国文物行业重大事故隐患专项排查整治2023行动专题部署电视电话会议近日召开...更多

2023-05-14 06:23:46
创新成北京品牌新内涵_当前短讯

创新成北京品牌新内涵_当前短讯

本报记者曹政从彰显传统京味文化的景泰蓝、花丝镶嵌,到受几代人追捧的北京工美、同仁堂,再到展现...更多

2023-05-14 06:10:15
世界观点:北京市第十四届全民健身体育节开幕

世界观点:北京市第十四届全民健身体育节开幕

本报讯(记者赵晓松)昨天上午,北京市第十四届全民健身体育节开幕式在通州区运河奥体公园体育场举...更多

2023-05-14 06:26:21
通久路二期通车 将具备“四环半”功能_每日快报

通久路二期通车 将具备“四环半”功能_每日快报

本报讯(记者朱松梅)5月12日,朝阳区通久路二期(德贤路至三台山路段)正式开通。这条道路位于中心...更多

2023-05-14 06:23:28

© 2012-2020 财经快报网 版权所有 关于我们

网站联系邮箱:435 227 67@qq.com

琼ICP备2022009675号-3