二分文章网 手机版
您的位置: 首页 > 实时讯息 >

谷歌发布145页人工智能安全报告:可能在2030年出现“永久毁灭人类”的人工智能

0次浏览     发布时间:2025-04-08 10:51:00    

近日,谷歌旗下DeepMind实验室发布了一份长达145页的人工智能安全报告,预测具备人类智能水平的通用人工智能(AGI)可能在2030年左右问世,并可能“永久毁灭人类”。

在报告中研究人员指出,AGI可能带来导致人类永久灭绝的生存风险,他们强调,这一重要议题无法由DeepMind一家公司单方面解决,而应由整个社会共同参与讨论。

报告并未具体说明AGI将如何导致人类灭绝,主要篇幅集中在风险防控措施上。

报告将AGI带来的风险分为四个主要类别:

滥用风险(人类故意利用AI实施危害行为)、错位风险(系统发展出非预期的有害行为)、失误风险(因设计或训练缺陷导致的意外故障)和结构性风险(不同主体之间的利益冲突)。

研究人员还概述了DeepMind的风险缓解策略,重点在于防止滥用,并强调了尽早识别危险能力的重要性。

这篇论文还对Anthropic和OpenAI等竞争对手的安全策略表达了含蓄批评。

报告认为,Anthropic在严格训练和监督方面投入不足,而OpenAI则过度关注所谓的对齐研究(即确保AI系统的目标和行为与人类的价值观和利益保持一致)。

(杭州日报)

相关文章

当心脏首席科学家倒在腰椎手术台上,当医学世家的女儿死于术后护理失误 —— 这场本该拯救生命的手术,却成了吞噬天才的深渊。北大医学教授熊卓为的离奇死亡,撕开了医疗体系中被忽视的致命裂缝,也让每个普通人开始颤抖:当手术刀握在 "专业人士" 手中,我们真的安全吗?熊卓为的人生本是教科书级的 "别人家的孩子

2025-06-19 09:58:00

每经AI快讯,6月17日,力合科创在互动平台上表示,微灵医疗是公司在管的深圳南山西丽科教城验证一期私募股权投资基金合伙企业(有限合伙)投资孵化的参股企业。微灵医疗主要从事医疗级全植入式无线脑机接口系统研发。每日经济新闻

2025-06-17 17:40:00

记者6月12日从中科宇航技术股份有限公司获悉,6月11日,力箭二号液体运载火箭一级动力系统试车任务取得圆满成功。此次试车是力箭二号工程研制阶段的重大标志性地面试验之一,对该型火箭关键技术进行了充分验证,为首飞发射轻舟货运飞船初样试飞船奠定了坚实基础。试车成功标志着力箭二号火箭一级动力系统关键技术取得

2025-06-12 14:40:00

6月11日,成都市天府国际会议中心,人工智能赋能可持续发展论坛现场。记者 郑宇 摄/视觉重庆6月11日下午,人工智能赋能可持续发展论坛召开。科学技术部副部长陈家昌、古巴科学技术和环境部部长阿曼多·罗德里格斯·巴蒂斯塔、四川省人民政府副省长李文清、重庆市人民政府副市长郑向东、新华通讯社副总编辑任卫东等

2025-06-12 07:54:00

人勤春来早,奋蹄赶秋实。党的十八大以来,习近平总书记在不同场合多次谈到自己的读书经历,反复强调读书学习的重要性,鼓励广大青年要自觉加强学习,不断增强本领。作为新时代的青年,生逢其时也重任在肩,唯有以勤学为舟、以实干为桨,从“打牢知识基石”到“真刀真枪的实干”,才能在青春的航程中劈波斩浪,在知行合一中

2025-06-10 21:25:00