人民网首页 账号 ____________________密码 ____________________ [X] 记住登录状态[选� 袢ハ蛳�..] 登录| 注册 | 网站地图 袢ハ颉择去向..] | 网站地图 [rmw_logo2.jpg] 共产党新闻要闻时政法治|国际军事|台港澳教育|社会图片观点 地方|财经汽车房产|体育娱乐文化传媒|电视社区政务通博客访谈|游戏彩信动漫 RSS[rmw_logo.jpg] IFRAME: http://pmm.people.com.cn/main/s?user=people|nonechannel|newsbigbanner_7 28&db=people&border=0&local=yes&kv=people|scitech;third|172200;fourth|8 3278;newsid|27123611 [rmw_logo.jpg] 人民网>>科技 美科学家:当人工智能遇上伦理道德 张章 2015年06月09日08:03 来源:中国科学报 [peopleclienticon.jpg] 手机看新闻 打印网摘纠错商城分享推荐 IFRAME: /mediafile/mblog/shareCode2.html IFRAME: http://open.qzone.qq.com/like?url=http%3A%2F%2Fuser.qzone.qq.com%2F7062 90421&width=400&height=30&type=button_num&style=2&btn_type=follow 字号 [BUTTON Input] (not implemented)_____ [BUTTON Input] (not implemented)_____ 分享到... * 分享到人人 分享到人人 * 分享到QQ空间 分享到QQ空间 原标题:当人工智能遇上伦理道德   美国宇航局的机器宇航员2 号 图片来源:Joseph Bibby   在近日发表于《自然》杂志上的一篇评论文章中,4位计算机领域的研究领军 者分享了他们对该领域的思考。   目前,美国国防部高级研究计划局(DARPA)正在推进两个项目:“快速轻型 机器人”(FLA)和“敌对环境下联合作战”(CODE),前者计划设计出一款旋翼 机,能够在没有外界操控的情况下以极高的速度在城市环境或建筑物内部敏捷地 飞行;而后者的目标是开发无人飞行器,将能够在完全与总部失去联络的情况下 完成一整套攻击程序——搜索目标、锁定、跟踪、攻击、评估。它们将有可能促 成“杀手机器人”的研发。   在近日发表于《自然》杂志上的一篇评论文章中,4位相关领域的研究领军者 分享了他们对智能机器社会风险的担忧和解决方案。   美国加州大学伯克利分校的计算机科学教授Stuart Russell认为,这些武器 所具备的敏捷性和致命性将让人类陷入毫无招架之力的境地,“这不是我们所梦 想的未来场景”。而来自英国布里斯托尔大学的机器人专家Sabine Hauert则表示 ,公众无须对人工智能技术的发展感到担忧。   应对人工智能武器表明立场   Stuart Russel(美国加州大学伯克利分校计算机科学教授)   人工智能(AI)和机器人领域的专家面临一个重要的伦理决策:必须要决定 他们是支持还是反对致命自主武器系统(LAWS)。此类系统能在几年而非几十年 内发展为可行的。该领域的风险很高,致命自主武器系统被描述为战争的第三次 革命,前两次是火药和核武器。   在几年之内,军方就可以组装带有武器的四轴飞行器和微型坦克,这些自动 的飞行器和坦克不需要人类干预,自己能决定谁能活下来而谁又会死去。例如, 四轴飞行器能在一座城市中找到并打击敌方战士,但不包括人类能设定目标的巡 航导弹和遥远的无人驾驶飞机。   但是,国际人道法律对于此类技术没有任何具体的规定,现在也还不清楚国 际社会是否会支持一个限制或禁止此类武器系统的条约。1949年签订的战争人道 主义《日内瓦公约》要求任何袭击需要满足3个条件:军事必需、参与战争者和非 参战者差别对待、军事目标价值及其潜在附带伤害的平衡。而当前的自动武器很 难或根本无法作出这些主观判断。   作为一个人工智能专家,我曾被要求为特定常规武器公约(CCW)第三次重要 会议提供专业证据。德国等许多国家迫切要求签署禁令,但美、英和以色列这3 个LAWS技术领先的国家则认为这样一个条约没有必要。   LAWS通过允许机器选择杀死谁,而可能侵犯人类尊严的基本原则。在我看来, 最应当关注的是这个技术发展轨迹的可能终点。我认为超过人类控制的系统将建 成这一点是不可避免的。当然这些武器系统能涉及的范围和携带大型武器的能力 会受到物理定律的限制。然而它们的灵活性和杀伤力将让人们毫无防御之力。这 样的未来不会是人们想要的。   因此,人工智能和机器人领域的科学家及其所在的专业组织应当表明立场, 正如物理学家当年对于核武器,抑或是生物学家对于在战争中使用病原体表明立 场一样。应当召开学术会议进行讨论,并让伦理委员会参与进来。什么都不做就 等于是表示支持继续发展和使用。   积极讨论,不要厌恶机器人   Sabine Hauert(英国布里斯托尔大学机器人学讲师)   针对机器人和人工智能的恶意炒作让一些研究人员十分愤怒,这使得他们停 止与媒体或公众沟通。   但我们无法脱离社会。公众包括纳税人、政策制定者、投资者和那些利益相 关者。他们在听闻一边倒的讨论后,担忧机器人会抢了他们的饭碗,害怕人工智 能产生实在的威胁,并在考虑是否应制定法律控制这些仍在假设中的技术。   而我和同事会在晚宴时间向大家解释,我们并非一群恶魔,我们花费多年时 间潜心研发,目的是为了开发那些能够帮助老人,改善健康,让我们的工作环境 更加安全和有效率,并让我们能够探索太空和海洋的设备。   专家需要成为信息传递者。研究人员应利用社会媒体这一公共平台,诱导相 关讨论变得平衡。我们能够探讨最新进展和限制因素,解开人工智能技术的神秘 面纱。   人工智能和机器人领域需要思想领袖,以便与霍金等杰出评论家和Elon Musk 等风险投资家建立友好的关系,并在世界经济论坛等会议上设置机构等。而且, 公众参与也将有助于筹集经费。   当然,也存在不少障碍:首先,许多研究人员没有推特和博客账户;第二, 时间十分有限;第三,可能需要数年时间才能建立一个社交媒体互动机制。在我 看来,全世界的人工智能和机器人领域的利益相关者,应当联合一部分资金,以 帮助该领域增大发言权。   公平分配人工智能福利   Russ Altman(美国斯坦福大学生物工程、基因学、医学和计算科学教授)   人工智能在加速生物和医学领域的科学发现及改变医疗卫生方面有惊人潜力 。人工智能系统有望帮助弄清若干新型数据:基因组学、蛋白质组学和新陈代谢 组学等“组学”的测量值;电子病历;健康信号的数字传感器监控。   聚类分析能判断新综合征,分离那些曾被认为是相同的疾病以及统一那些根 本缺陷相同的疾病。模式识别技术能将疾病与疗法相匹配。例如,我和同事正在 识别对调节免疫系统的药物可能有响应的患者群体。   在协商中,内科医生可能会使用来自“虚拟群体”的患者数据——他们就好 像彼此坐在一起,评估诊断、选择疗法和统计结果。他们将可能在一个此类系统 中进行医疗决策,或使用基于患者数据的模拟实验预测结果。   但我有两个担忧。首先,人工智能技术将加剧目前的医疗卫生不平衡状况, 除非能发现一种方式,让所有病人受益。例如,在美国,失业人员会经历各种水 平的护理。只有特殊群体或能支付得起的人,才能获益于先进的诊断技术,这是 不公平、不合理的。   第二,我担忧临床医生理解和解释高性能人工智能系统所得出的结果的能力 。大多数卫生保健提供者不会接受一个来自决策支持系统的没有明确描述如何和 为何能出现效果的复杂治疗建议。因此,研究人员需要让医生、护士、患者和其 他人明白他们应该如何使用人工智能,并且如何公平地使用。   机器人是人类的补充物,而非替代品   Manuela Veloso(美国卡内基·梅隆大学计算机学教授)   我们正使用自己的感觉评估世界状态,用我们的大脑思索,选择达成目标的 行动,并用自己的身体执行这些行动。我的科研团队正试着建造能同样做这些的 机器人,它们将拥有人造感应器、算法和制动器。   但自动机器人和人类的能力之间存在极大差别。机器人通常存在知觉、认知 和行动限制。它们通常无法充分理解一个场景,认识或操纵物体,理解所有的口 头或书面用语等。我认为,机器人是人类的补充物,而非替代品。但机器人需要 知道何时寻求帮助以及如何表达其内部工作原理。   为了更多了解机器人和人类如何共同工作,在过去3年里,我们与4个自己研 发的机器人分享了我们的实验室和建筑。这些机器人看上去有点像机械讲台。它 们拥有全方位车轮,以便平稳越过障碍物;照相机和激光雷达系统,以提供深度 视力;用于内部处理的计算机;用于交流的屏幕,和携带东西的篮子。   之前,我们就已经意识到现实世界对机器人的挑战。于是,我们引入了“共 生自主性”的概念,以便机器人向人类和互联网寻求帮助。现在,我们实验室里 的机器人和人类能彼此帮助,共同克服各自的局限性。   不过,人类与机器人能安全、有效共存,还须克服一些障碍。我们正在研究 人和机器人如何更简单地通过语言和动作进行沟通。我们还在探索如何改善机器 人外观,提高其与外界的互动,尤其是指示灯如何向人类揭示机器人的内在状态 。   尽管我们还有很长的路要走,但我相信,如果人类和机器人能彼此帮助、相 互补充,未来将是乐观的。 [peopleclient.jpg] [peopleclient.jpg] (责编:赵竹青、马丽) * 狗狗可嗅出前列腺癌 准确度高达98% 狗狗可嗅出前列腺癌 准确度高达98% * 3000尾大规格中华鲟放流长江 3000尾大规格中华鲟放流长江 * 新型减震轮三个弹性轮圈代替传统辐条 新型减震轮三个弹性轮圈代替传统辐 条 * 头要“爆炸”了? 头要“爆炸”了? * 全球首例头部移植手术志愿者 全球首例头部移植手术志愿者 * 十大考古新发现揭晓 十大考古新发现揭晓 * 世界首头克隆骆驼怀孕 证明其可繁衍 世界首头克隆骆驼怀孕 证明其可繁衍 * 爱与不爱 大脑大不同 爱与不爱 大脑大不同 * 首个3D打印火箭动力航天飞机在伦敦展出 首个3D打印火箭动力航天飞机在伦 敦展出 __________________________________________________________________ 27123611 我要留言 进入讨论区 论坛 博客 微博 SNS 育儿宝 图片 注册/登录 发言请遵守新闻跟帖服务协议 理性发言!____________________________________________________ ____________________________________________________________ ____________________________________________________________ ____________________________________________________________ 使用其他账号登录: 新浪微博帐号登录 QQ帐号登录 人人帐号登录 百度 帐号登录 豆瓣帐号登录 天涯帐号登录 淘宝帐号登录 MSN帐号登录 同步 : [_] 分享到人民微博 Submit 社区登录 用户名: ____________________ 立即注册 密 码: ____________________ 找回密码 [dl_11.gif] [dl_13.gif] 恭喜你,发表成功! 请牢记你的用户名:,密码:,立即进入个人中心修改密码。 30s后自动返回 推荐帖子推荐帖子推荐帖子 推荐帖子推荐帖子推荐帖子 ! 5s后自动返回 推荐帖子推荐帖子推荐帖子 推荐帖子推荐帖子推荐帖子 恭喜你,发表成功! 5s后自动返回 推荐帖子推荐帖子推荐帖子 推荐帖子推荐帖子推荐帖子 * 最新评论 * 热门评论 查看全部留言 __________________________________________________________________ IFRAME: http://www.people.com.cn/GB/347065/356461/index.html >科技热点 * 嫦娥五号“探路小兵”是怎样炼成的? * 英国4口之家 养145只动物 其乐融融 * 美首家粪便银行有偿收粪便 志愿者日薪数百元 * 工科男发明炒菜软件 帮助身边人小白变大厨 * “开膛手”杰克DNA分析有误 * 新国标能否驱散防霾品市场“雾霾” 西藏阿里地区发现野生雪豹幼仔 西藏阿里地区发现野生雪豹幼仔 * 超级稻如何成就“吨粮田” * 爱上瘾,都是多巴胺惹的祸? * 全球防控埃博拉进入“下半场” * 超级稻如何成就“吨粮田” * 科学家:带刺的尾骨是恐龙最厉害的武器【图】 * 脉诊验孕,能否“赛”出科学 盘点十大最怪异海洋生物 外形奇特如怪兽(组图) 盘点十大最怪异海洋生物 外形奇特如怪兽(组图) ____________________ Submit IFRAME: http://pmm.people.com.cn/main/s?user=people|nonechannel|pip_2013&db=peo ple&border=0&local=yes&kv=people|scitech;third|172200;fourth|83278;news id|27123611 新闻热搜词来源:百度新闻 习近平深改会议李克强指挥救援中国对菲渔船开火韩国MERS昂山素季访华菲律宾 媚日言论长江沉船搜救蔡英文首谈两岸政策高考报名人数陪读大军拜登送儿子遗 体全民造车大幕拉开北京强力禁烟打虎榜杨秀珠将被遣送中国 IFRAME: http://pmm.people.com.cn/main/s?user=people|nonechannel|rectanglebanner _2013&db=people&border=0&local=yes&kv=people|scitech;third|172200;fourt h|83278;newsid|27123611 科技热图|人民电视 * 陕西男子发现重2000余克疑似绿帘石 陕西男子发现重2000余克疑似绿帘石 * 设想出炉 新一代飞船返回舱最多容6人 设想出炉 新一代飞船返回舱最多容6 人 * 有效记忆,请保持姿势 有效记忆,请保持姿势 * 我国飞行员选拔重视心理素质调查 我国飞行员选拔重视心理素质调查 * 基因检测:掀起你的“盖头”来 基因检测:掀起你的“盖头”来 * 首批无人机驾驶员培训班开班 首批无人机驾驶员培训班开班 * 赣高考替考者被控制 赣高考替考者被控制 * 广东网上巡视全省考点 广东网上巡视全省考点 * 童星公园卖唱救母 童星公园卖唱救母 * 民族记忆:血战黄崖洞 民族记忆:血战黄崖洞 * 我们为王菲制作过乐器 我们为王菲制作过乐器 * 老外被盗铁警迅速找回 老外被盗铁警迅速找回 IFRAME: http://opinion.people.com.cn/GB/350657/350659/index.html |精彩博客 "为官不为"说给谁听 "为官不为"说给谁听 希拉里竞选有戏吗 希拉里竞选有戏吗 + 干部被“召回”不能全赖“质检员” + “证明我妈是我妈”说明了什么? + 干部要算好“政治生命公式” + 贪官外逃不如国内“蹲大牢” + + 领导干部要净化“朋友圈” + 百万官网为何屡成“僵尸”? + “借腹生子”有失公序良俗 + 机关单位内部也得多轮岗 IFRAME: http://pmm.people.com.cn/main/s?user=people|nonechannel|W5_2013&db=peop le&border=0&local=yes&kv=people|scitech;third|172200;fourth|83278;newsi d|27123611 热播视频|图说中国 赣高考替考者被控制 赣高考替考者被控制 童星公园卖唱救母 童星公园卖唱救母 + 童星公园卖唱救母 + 孩子,让我拉住你的手 + 给王菲做过乐器的传人 + 破解"提速"最后一公里 + + 萌宝模仿秀快来点个赞 + 京绣传人一生都在传承 + 女子骑车跌入河道溺亡 + 双面“的姐”变美计 随手拍春光 随手拍春光 春日赏梅 春日赏梅 + 网友自驾5地万里行 + 婺源油菜花美醉游人 + 故事:剃头匠的坚持 + 张掖丹霞地貌奇观 + + 云南罗平油菜花盛开 + 三只老虎的爱情故事 + 奇特的敦煌“魔鬼城” + 穿越雁门关长城 24小时排行 | 新闻频道留言热帖 IFRAME: http://news.people.com.cn/GB/244670/244671/index.html IFRAME: http://news.people.com.cn/GB/244670/244699/index.html IFRAME: http://news.people.com.cn/GB/244670/244681/index.html IFRAME: http://news.people.com.cn/GB/244670/244683/index.html 论坛|访谈微博SNS * [惊坛]高考替考年年查实年年替, 莫非处置还不够严厉? * [热议]谁阻碍了中国网速升级 中国哪个行业油水最多 * [热帖]外逃贪官在国外的非人生活(图) * [话题]"处长高于国务院"怪象咋产生?) * [国际]英国学生就业有多难 拉登藏匿期间都看些啥 * [历史]清朝房价有多高 古代海外华人的超国民待遇 * [贴图]世界各国警察制服秀 南京86岁老人再战高考 * [生活]半夜老醒是癌症先兆吗 白发染黑的惊人危害 人民日报社概况 | 关于人民网 | 招聘英才 | 广告服务 | 合作加盟 | 供稿服务 | 网站声明 | 网站律师 | 呼叫中心 | ENGLISH 人 民 网 版 权 所 有 ,未 经 书 面 授 权 禁 止 使 用 Copyright (c) 1997-2015 by www.people.com.cn all rights reserved 人 民 网 版 权 所 有 ,未 经 书 面 授 权 禁 止 使 用 Copyright (c) 1997-2015 by www.people.com.cn. all rights reserved [c.gif?id=27123611]