AI教父示警：杀手机器人10年内成真
AI教父示警：杀手机器人10年内成真
信息时代-万维读者网（电脑版）--- creaders | 2024-03-26 21:31:22 中时新闻网 |
加拿大多伦多大学名誉教授辛顿（Geoffrey Hinton）有“AI教父”之称，他在接受日媒采访时，谈及人工智慧（AI）的威胁。他说，很多人以为，要防止AI失控，只要关掉电源开关就可以，“但超越人类智慧的AI可以用语言操纵我们。或许会试图说服我们不要关掉开关”。
辛顿是“深度学习”（Deep Learning）和神经网络（模仿人脑的数学模型）的先驱，其研究帮助奠定了AI发展的基础。2023年，辛顿突然从已工作10多年的美国谷歌辞职，开始谈论AI的威胁。
《日本经济新闻》近日刊出了对辛顿的专访内容。辛顿表示，如果给AI设定目标，作为解决对策，它可能会找出对人类不利的方法。比方说，假设向AI下达遏制气候变化的指令。AI会意识到为了达到目的而有必要将人类清除，他担心真的会付诸实施的风险。
辛顿指出，今后还可能会出现不同的AI相互竞争的局面。例如，如果AI之间发生数据中心等资源的争夺，这将是一个像生物体一样推动进化的过程。面对透过竞争变得更聪明的AI，我们人类将落在后面。
他还预测，未来10年内将出现自主杀死人类的机器人武器（杀手机器人）。他说，机器人武器或许迟早也会被限制，但是，这可能要等到真正在战场上被使用、人类认识到会带来多么悲惨的结局后才能实现。
辛顿又谈到，如果从主观经验这一角度进行说明，他认为AI可以拥有和人类一样的感觉。他说，人类也会经历与客观事实不符的事件。例如我喝了很多酒，早上醒来时，眼前因为幻觉而出现了粉红色的小象。我不会相信小象的存在，而是会认为自己的感知系统没有正常工作，因此这只是内在的体验。
他说，透过照相机收集视觉信息的AI也可以产生同样的情况。例如，将物体放在相机前，用棱镜使光线弯曲，形成产生物体在远处的错觉。如果对话式AI解释称感知系统因为棱镜而不能正常工作，那么我们就可以说它有著和人类一样的感觉。
请点这里投票，“赞”助支持！
内容来自网友分享，若违规或者侵犯您的权益，请联系我们
所有跟帖: ( 主贴楼主有权删除不文明回复，拉黑不受欢迎的用户 )
进入内容页点击屏幕右上分享按钮
楼主前期社区热帖：
- 人类有可能就生活在一个超级黑洞里面 04/26/24
- 不现实，很荒谬？马斯克的火星计划遭天文学家质疑 04/26/24
- 拜登政府斥资110亿美元 投入芯片研发领域 04/26/24
- 马斯克的xAI以180亿估值融资60亿,知名资本也入局 04/26/24
- 俄罗斯美女，竟然是MADE IN CHINA 04/26/24
- 刷新认识：我们所在的宇宙是个空洞 04/23/24
- 美军AI自动驾驶F-16 空中缠斗真人飞行员 04/23/24
- 黄仁勋最新研判：未来人形机器人将成主流 04/23/24
- 当我们在馋AI功能时 厂商已经开始馋用户的身子了 04/22/24
- 我用AI开咖啡馆 投入10万 月入6万 04/22/24
- 偶遇1.0伏特的纪念馆🧟♂️ 04/08/24
- 防中俄 美英签AI合作新协定 04/02/24
- 即使Windows10明年淘汰 也没人升级 04/02/24
- OpenAI放开限制,无需注册即可使用ChatGPT 04/02/24
- 老司机雀跃！马斯克要干啥？X测试“上班不宜” 04/02/24
- 美巨头欲降低对中国依赖，转向墨西哥生产AI硬件 04/02/24
- 1000亿豪赌微软OpenAI打造星际之门AI超算 04/02/24
- 马斯克：AI有20%的可能性毁灭人类 04/02/24
- 70年一遇 “恶魔”彗星要来了 肉眼可见 04/02/24
- 超有用 6个热门AI生成工具省时省力 04/02/24
>>>>查看更多楼主社区动态...