二分文章网 手机版
您的位置: 首页 > 实时讯息 >

谷歌发布145页人工智能安全报告:可能在2030年出现“永久毁灭人类”的人工智能

0次浏览     发布时间:2025-04-08 10:51:00    

近日,谷歌旗下DeepMind实验室发布了一份长达145页的人工智能安全报告,预测具备人类智能水平的通用人工智能(AGI)可能在2030年左右问世,并可能“永久毁灭人类”。

在报告中研究人员指出,AGI可能带来导致人类永久灭绝的生存风险,他们强调,这一重要议题无法由DeepMind一家公司单方面解决,而应由整个社会共同参与讨论。

报告并未具体说明AGI将如何导致人类灭绝,主要篇幅集中在风险防控措施上。

报告将AGI带来的风险分为四个主要类别:

滥用风险(人类故意利用AI实施危害行为)、错位风险(系统发展出非预期的有害行为)、失误风险(因设计或训练缺陷导致的意外故障)和结构性风险(不同主体之间的利益冲突)。

研究人员还概述了DeepMind的风险缓解策略,重点在于防止滥用,并强调了尽早识别危险能力的重要性。

这篇论文还对Anthropic和OpenAI等竞争对手的安全策略表达了含蓄批评。

报告认为,Anthropic在严格训练和监督方面投入不足,而OpenAI则过度关注所谓的对齐研究(即确保AI系统的目标和行为与人类的价值观和利益保持一致)。

(杭州日报)

相关文章

当前,全国已进入“七下八上”防汛关键期,极端天气频发,防汛形势严峻。河南省洛阳市汝阳县刘店镇创新构建 “人大代表牵头、网格员摸排、纪委督责、农业服务中心攻坚”的四方协作机制,通过力量整合、职能互补,将防汛救灾的“单打独斗”转化为“集团作战”,为全镇安全度汛注入强劲动能。人大代表示范引领:汛期来临前,

2025-07-28 11:13:00

今年上半年,海南众扬新材料有限公司持续发力,完成产值2000万元,这一数字已与2024年全年产值持平,实现了半年赶超去年全年的跨越式增长。在海南众扬新材料有限公司的生产车间,机器轰鸣不停,流水线运转有序,工人们各司其职,一派繁忙景象。作为新材料领域的深耕者,海南众扬新材料凭借技术迭代与市场拓展的双重

2025-07-28 09:44:00

每经记者:张韵 黄海 朱成祥 每经编辑:董兴生7月26日,“2025世界人工智能大会暨人工智能全球治理高级别会议”(WAIC 2025)在上海隆重开幕。“数字智能是否会取代生物智能?”大会主论坛上,AI教父杰弗里·辛顿翻开了AI之问的新篇章。技术进化之外,更切实的问题是:AI能否真正嵌入产业与社会,

2025-07-27 07:40:00

7月23日,省十四届人大常委会第十七次会议举行第一次全体会议。省人大常委会副主任陈向群主持会议。会议听取了省人大法制委关于《辽宁省河道管理条例(修订草案)》《辽宁省职业教育条例(草案)》修改情况的汇报,关于设区的市报请批准的地方性法规和决定审查情况的汇报;听取了省政府关于《辽宁省禁毒条例(草案)》《

2025-07-24 07:07:00

7月18日,中原再担保集团召开2025年上半年经营分析会,全面回顾上半年工作成效,总结经验做法及存在不足,对下半年重点工作做出系统部署。中原再担保集团党委书记、董事长薛怀宇主持会议并讲话,党委副书记、总经理李娟作题为《统一思想 提高认识 确保高质量完成2025年度目标任务》的报告,全体领导班子成员、

2025-07-23 10:49:00