时政 国际 财经 台湾军事 观点 领导 人事 理论 法治 社会教育 科普 体育 文化 书画 房产 汽车 旅游 健康 视频 登录 注册 退出 登录 人民网 通行证 立即 注册 忘记 密码 ？ 
登录 站 内 检索 我们 能 信赖 机器人 吗 ？ 
记者 常 丽 君 综合 外电 2016 年 06 月 26 日 08 : 14 来源 ： 科技日报 原 标题 ： 我们 能 信赖 机器人 吗 ？ 
　 　 四 臂 手术 机器人 　 　 手术 机器人 达 ・ 芬奇 。 
　 　 加州 大学 伯克利分校 机器人 专家 肯 ・ 戈德伯格 让 达 ・ 芬奇 机器人 缝合 手术 切口 ， 达 ・ 芬奇 能 通过 “ 机器学习 ” 软件 自己 学习 。 
　 　 进攻型 无人机 和 射击 机器人 　 　 美国 魔爪 SWORDS 机器人 　 　 随着 人工智能 和 机器学习 的 发展 ， 机器人 越来 越多 地 承担 起 更加 重要 的 工作 ， 如 外科 手术 、 自动 驾驶 、 战场 作战 ， 甚至 能 决定 人类 的 生死 ， 那么 ― ― 我们 能 信赖 机器人 吗 ？ 
　 　 按 大众 对 机器人 的 理解 ， 它们 要么 是 近乎 完美 的 忠诚 管家 ， 要么 是 精神 变态 的 狡诈 杀手 ， 就 像 《 星球大战 》 里 的 C3PO 、 《 机械 姬 》 里 的 艾娃 、 《 禁闭 行星 》 里 的 罗比 或 《 太空 漫游 》 里 的 哈尔 。 
虽说 这些 描写 只不过 反映 了 人类 自己 的 希望 和 恐惧 ， 但 至少 这些 恐惧 已 开始 进入 现实 。 
　 　 近年来 ， 许多 科技界 名人 表达 了 他们 对 人工智能 横行 世界 的 忧虑 ： 拥有 超级 智能 的 机器人 建立 了 一个 新世界 ， 人类 不再 是 这个 新世界 里 的 主角 ， 他们 被 奴役 、 杀戮 甚至 灭绝 。 
这些 恐怖 场景 和 几十 年前 科幻 小说家 们 幻想 的 差别 不大 ， 却 引起 了 人们 的 广泛 关注 ， 甚至 包括 斯蒂芬 ・ 霍金 、 比尔 ・ 盖茨 、 埃隆 ・ 马斯克 等 科技 名人 。 
　 　 人类 和 机器 正 形成 一 种 新 的 关系 。 
在 不久 的 将来 ， 我们 会 开始 对 那些 具有 高度 自主性 、 完全 自动化 的 机器人 系统 委以重任 ， 如 驾驶 汽车 、 执行 手术 ， 甚至 在 战争 中 选择 何时 使用 致命性 武器 。 
这是 人类 第一次 在 面对 复杂 、 变动 和 无序 环境 时 ， 通过 对 机器 编程 而 不是 直接 控制 来 做出 生死 决 择 。 
　 　 毫无疑问 ， 机器人 并 不 完美 ， 它们 也 会 犯错 ， 甚至 可能 造成 人类 伤亡 。 
但 可以 确定 的 是 ， 这 一 新兴 科技 将 给 人类 带来 前所未有 的 发展前景 。 
届时 ， 我们 将 面对 的 挑战 涵盖 技术 、 法规 甚至 哲学 范畴 ， 除了 法典 和 政策 问题 ， 新 的 机器人 还 迫使 我们 面对 更深 的 道德 难题 ， 甚至 改变 对 自我 的 认识 。 
但 最终 ， 这个 世界 会 因 机器人 时代 的 到来 而 变得 更加 美好 。 
　 　 精准 高效 的 外科 手术 机器人 　 　 目前 ， 外科 医生 已 可以 利用 机器 手臂 来 做 复杂 的 手术 。 
美国纽约大学 机器人 手术 中心 主管 迈克尔 ・ 斯蒂 夫曼 已 做 过 上千 例 机器人 辅助 手术 。 
他 在 控制台 操纵 着 机械 臂 ， 每个 机械 臂 都 通过 一个 约 5 毫米 宽 的 微小 切口 伸 入 病人 体内 ， 只要 旋转 自己 的 手腕 ， 捏 紧 手指 ， 伸 入 病人 体内 的 机械 臂 就 会 精准 地 执行 同样 动作 。 
　 　 他 引导 着 两 只 手臂 给 一根 线 打结 ， 操纵 第 三只手 臂 用 针 穿过 病人 肾脏 ， 将 切除 肿瘤 后 留下 的 洞 缝 在 一起 ， 第 四 只 手臂 则 拿 着 内窥镜 将 病人 腹腔 内 的 情况 呈现 在 显示屏 上 。 
　 　 斯蒂 夫曼 是 位 受过 高等 训练 的 专家 ， 有 高超 的 技能 和 判断 ， 然而 ， 他 正在 把 宝贵 的 时间 花 在 缝合 上 。 
这 只是 主 手术 的 后续 整理 工作 ， 如果 机器人 能 接手 这项 单调 机械 的 任务 ， 外科 医生 就 能 腾 出手 来 做 更 重要 的 事 。 
　 　 今天 的 手术 机器人 能力 进一步 增强 ， 手术 中 不仅 没有 手 颤 ， 还 能 实施 多种 方案 。 
但 说到底 ， 机器人 只是 由 人类 直接 控制 的 高级 工具 。 
手术 机器人 公司 泰 坦 医疗 （ TitanMedical ） 执行 副 总裁 丹尼斯 ・ 福勒 曾 是 一名 从业 32 年 的 外科 医生 ， 他 认为 ， 如 机器人 能 代替 人类 自动 做 一些 决策 ， 独立 执行 分配 给 它们 的 任务 ， 医疗 行业 将 能 更好 地 为 人类 服务 。 
“ 这种 技术 干预 手段 能 增加 可靠性 ， 减少 人为 错误 。 
” 　 　 给 机器人 “ 升职 ” 并非 遥不可及 的 事 ， 所 需 的 大部分 技术 很快 会 在 研究 和 工业 实验 中 开发 出来 ， 实验 机器人 用 人体 组织 的 橡胶 模型 练习 缝合 、 清洗 伤口 、 切除 肿瘤 等 。 
在 一些 实验 中 ， 机器人 能比 得 上人 ， 有些 甚至 比人 更加 精确 、 高效 。 
就 在 上个月 ， 华盛顿 一家 医院 展示 了 一个 机器人 系统 缝合 的 猪 小肠 组织 ， 让 人 执行 同样 手术 进行 比较 发现 ， 机器人 缝 得 更 均匀 、 更 细密 。 
　 　 虽然 这些 系统 还 没 准备 好 用于 病人 ， 但 它们 代表 了 未来 手术 的 发展方向 。 
同样 的 逻辑 也 适用 于 操作室 和 装配 流水线 ， 如果 高 自动化 能 提高 工作 效果 ， 那 就 没什么 能 阻止 它 。 
　 　 肥胖症 治疗 医生 、 伦敦 帝国 学院 讲师 休 丹 ・ 阿什 拉芬 对 机器人 手术 的 结果 进行 了 研究 。 
他 认为 ， 在 可 预见 的 将来 ， 手术 机器人 将 会 在 医生 指令 下 处理 简单 的 任务 。 
“ 我们 的 目标 是 提高 术后 效果 。 
如果 用 机器人 能 挽救 生命 、 降低 风险 ， 那 用 这种 设备 就是 义不容辞 的 。 
” 　 　 展望 未来 ， 医学界 最终 会 使用 下一代 机器人 ― ― 有 决策权 的 人工智能 。 
这种 机器人 不仅 能 处理 常规 任务 ， 还 能 接管 整个 手术 。 
虽然 现在 看起来 还 不 太 可能 ， 但 技术创新 会 很 自然 地 把 人们 引领 到 那里 。 
阿什 拉芬 说 ： “ 这是 一 步步 实现 的 ， 虽然 每 一 步 都 不是 特别 大 。 
正如 50 年前 的 医生 想象 不 出现 在 手术室 的 样子 ， 从 现在 起 再 过 50 年 ， 估计 又是 另 一番 景象 。 
” 　 　 其实 手术 机器人 已经 能 自己 做 决定 ， 独立性 比 人们 所想 的 更 强 。 
比如 ， 在 视力 矫正 手术 中 ， 机器人 系统 切 下 病人 一小 片 角膜 ， 并 通过 一 系列 激光 脉冲 重塑 其内 层 ； 膝关节 置换 手术 中 ， 用 自主 机器人 切割 骨骼 比 医生 更 精确 ； 在 头发 移植 手术 中 ， 智能 机器人 能 识别 并 采集 病人 头部 坚固 的 头发 毛囊 ， 然后 在 秃 斑 头皮 部位 打下 精密 小孔 ， 帮 医生 省 下 许多 单调 、 费时 的 重复 劳动 。 
　 　 那些 涉及 到 胸腔 、 腹腔 和 盆腔 部位 的 手术 要 面对 更 复杂 的 挑战 ， 因为 每个 病人 的 生理 结构 都 有所不同 ， 自主 机器人 必须 能 很 好 地 识别 各种 又 湿 又 软 的 内部 器官 和 血管 ； 而且 在 手术 中 ， 病人 的 各 部分 内脏 都 可能 起 变化 ， 所以 ， 机器人 还要 能 不断 地 调整 手术 计划 。 
　 　 机器人 还要 有 可靠 地 处理 危机 的 能力 。 
比如 ， 在 肿瘤 切除 手术 中 突 遇 大出血 ， 它 必须 能 及时 、 正确 地 处理 。 
手术 中 会 出现 各种 不可 预期 的 复杂 情况 ， 机器人 成像 系统 和 计算机 视觉 首先 要 能 识别 ， 并 通过 喷出 红色 液体 提示 这种 情况 的 严重性 ； 下 一 步 ， 其 决策 软件 要 能 找出 处理 这种 问题 的 最佳 方案 ， 然后 指令 系统 迅速 将 这 一 方案 付诸 行动 ； 最后 由 评估 程序 来 评价 结果 ， 确定 是否 还 需 进一步 行动 。 
让 手术 机器人 掌握 感知 、 决策 、 行动 和 评价 每 一 步骤 ， 代表 着 对 工程师 的 巨大 挑战 。 
　 　 进入 实用 的 “ 达 ・ 芬奇 ” 系统 　 　 2013 年 ， 位于 加利福尼亚州 的 “ 直觉 手术 ” 公司 开始 向 世界 各 大学 机器人 研究人员 捐赠 “ 达 ・ 芬奇 ” 手术 机器人 系统 ， 每 台 造价 高达 250 万 美元 ， 它 也 是 美国 监管 机构 批准 的 软组织 手术 系统 。 
目前 ， 全世界 有 超过 3600 家 医院 安装 了 “ 达 ・ 芬奇 ” 系统 。 
但 它 的 商业 之路 并非 一帆风顺 ， 曾 因 轻微 事故 而 面临 诉讼 。 
尽管 充满 了 争议 ， 很多 医院 和 病人 已经 接受 了 这种 技术 。 
　 　 “ 达 ・ 芬奇 ” 处在 人类 医生 的 完全 控制 之下 ， 除非 医生 在 控制 台上 抓住 操纵杆 ， 否则 其 手臂 只是 毫无 生气 的 塑料 和 金属片 。 
该 公司 先进 系统 研发部 经理 西蒙 ・ 迪 迈 奥 说 ， 目前 他们 打算 保持 这种 现状 。 
但 机器人 专家 正在 面向 未来 努力 ， 让 医生 在 做 手术 时有 越来 越多 的 辅助工具 或 计算机 引导 。 
　 　 迪 迈 奥 指出 ， 这 一 领域 的 研究 就 像 早期 的 自动 驾驶 汽车 ， “ 第 一 步 是 识别 道路 标志 、 障碍物 、 汽车 和 行人 ， ” 下 一 步 是 让 汽车 来 帮助 司机 。 
比如 ， 智能 汽车 会 感知 周围 车辆 的 位置 ， 在 司机 错误 变 道 时 发出 提醒 。 
同样 ， 手术 机器人 可在 医生 的 手术 器具 偏离 常规 路径 时 发出 警示 。 
　 　 加州 大学 伯克利分校 自动化 科学 与 工程 实验室 主管 肯 ・ 戈德伯格 也 在 训练 他 的 “ 达 ・ 芬奇 ” 独立 执行 手术 任务 。 
目前 ， 它 的 缝合 技术 已 相当 灵巧 ， 它 能 一 只 手臂 拉线 通过 模型 伤口 两边 ， 另 一 只 手臂 通过 拉 针 把 线 绷紧 ， 无需 人类 引导 而 开始 缝 下 一针 。 
它 通过 位置 传感 与 摄像 技术 计算 每次 进出 针 的 最佳 位置 ， 计划 并 跟踪 行针 轨迹 。 
但 任务 还是 很 艰巨 ， 据 报告 ， 它 目前 只能 完成 四 针 程序 的 50% ， 而且 还 不会 给 线 打结 。 
　 　 戈德伯格 说 ， 现在 他们 使用 机器学习 算法 采集 视觉 和 运动学 数据 ， 把 每 一针 分为 定位 、 推 针 等 多个 步骤 ， 让 “ 达 ・ 芬奇 ” 按 顺序 处理 。 
通过 这种 方法 ， 它 有 可能 学会 做 任何 手术 。 
　 　 理论 上 ， 同样 的 程序 也 能 指导 真正 的 手术 。 
戈德伯格 认为 ， 在 今后 10 年内 就 能 实现 简单 的 手术 任务 自动化 。 
但 即使 机器人 真的 能 在 常规 手术 中 表现 更好 ， 他 仍 希望 机器人 的 行动 是 一 种 在 人类 医生 “ 监督 下 的 自主 ” 。 
他 说 ， 让 机器人 做 长 时间 精确 且 一致 的 工作 ， 就 像 缝纫机 对 手工 缝纫 ， 只有 机器 与 人 合作 才能 成为 超级 医生 。 
　 　 被 重新 定义 的 军事 机器人 　 　 捷克 作家 卡雷尔 ・ 恰 佩克 1920 年 发表 了 科幻 剧作 《 罗素 姆 的 万能 机器人 》 ， 发明 了 “ 机器人 ” 一 词 ， 其 最初 含义 是 合成 人类 ， 它们 在 工厂 长 时间 辛苦 地 工作 ， 生产 低 成本 商品 。 
然而 ， 最终 这些 机器人 杀死 了 人类 。 
这 也 是 科幻小说 一直 在 描写 的 情节 ： 机器人 失去 控制 ， 变成 不可 阻挡 的 杀人 机器 。 
　 　 现在 ， 随着 人工智能 的 发展 和 机器人 技术 的 进步 ， 加上 伊拉克 、 阿富汗 战争 中 无人机 与 地面 机器人 的 广泛 使用 ， 人们 在 震惊 之 余 开始 担忧 ， 科幻 中 的 恐惧 会 变成 现实 。 
　 　 世界 最强 大 的 军队 目前 正在 开发 更 智能 的 武器 ， 这些 武器 将 拥有 不同 程度 的 自动化 能力 和 杀伤力 ， 绝大多数 通过 人类 远程控制 。 
但 也 有人 认为 ， 未来 的 人工智能 武器 最终 会 完全 自动化 地 操作 ， 由 集成 微 芯片 和 软件 来 决定 人类 的 生死 ， 这 将 成为 战争史 上 的 一道 分水岭 。 
　 　 于是 ， “ 机器人 杀手 ” 引发 了 激烈 争论 ： 一方 认为 ， 机器人 可能 开启 一 场 世界大战 摧毁 人类 文明 ； 另 一方 则 认为 ， 这些 武器 是 一 种 新型 精确 制导 武器 ， 只 会 减少 而 不是 增加 伤亡 。 
人工智能 领域 的 一些 主要 研究人员 呼吁 ， 禁止 “ 自主 进攻型 武器 超越 人类 控制 ” 。 
　 　 去年 ， 三 位 学术界 名人 ― ― 美国加州大学 伯克利分校 的 斯图尔特 ・ 罗塞尔 、 麻省理工学院 的 马科斯 ・ 泰格 马克 和 澳大利亚 新南威尔士 大学 的 托比 ・ 沃什 ， 在 一 次 人工智能 （ AI ） 大会 上 组织 发起 了 联名 请愿 。 
他们 在 公开信 中 指出 ， 这些 武器 将 导致 “ 全球 AI 军备 竞赛 ” ， 用于 “ 暗杀 、 破坏 国家 稳定 、 镇压 群众 和 选择性 地 消灭 某个 少数民族 群体 。 
” 目前 ， 这 封信 已有 超过 两万 人 签名 ， 包括 著名 物理学家 斯蒂芬 ・ 霍金 、 特斯拉 CEO 埃隆 ・ 马斯克 等 人 。 
马斯克 还 捐 了 1000 万 美元 给 一家 位于 波士顿 的 研究所 。 
该 研究所 的 任务 是 “ 保卫 生命 ” ， 抵抗 可能 出现 的 恶意 人工智能 。 
这 一 事件 成为 世界 各 大 媒体 的 新闻 ， 甚至 在 12 月日 内瓦 联合国 裁军 谈判 会议 上 ， 约有 100 多个 国家 参与 讨论 这 一 问题 。 
　 　 这场 争论 还 扩展 到 网络 上 。 
人们 对 未来 进行 了 各种 预测 和 展望 ， 有人 认为 ， 某种 情况 下 还 可能 出现 “ 出售 杀伤性 微型 机器人 的 低 成本 大规模 黑市 ， 购买者 可以 给 它 设定 某些 标准 ， 不 加 分辨 地 杀死 成千上万 符合 标准 的 人 ” 。 
　 　 他们 三 人 还 指出 ： “ 自主性 武器 是 一 种 潜在 的 大规模 毁灭性 武器 。 
虽然 一些 国家 或许 不会 选择 将 它们 用于 这种 目的 ， 但 这 对 有些 国家 和 恐怖主义 分子 却 极 有 吸引力 。 
” 　 　 造 出 在 智能 、 自主 和 自动化 方面 不断 升级 的 杀人 机器 ， 不管 这种 军备 竞赛 能否 更好 地 服务 于 人类 利益 ， 也 不管 目前 存在 着 多 大 争议 ， 实际上 新 一轮 的 AI 军备 竞赛 已经 开始 。 
　 　 悄然 兴起 的 智能化 武器装备 　 　 自主 武器 几十 年前 就 已 出现 ， 但 数量 较 少 ， 而且 基本上 都 是 用于 防御性 目的 。 
最近 ， 军事 供应商 开发 出 了 被 认为 是 进攻型 的 自主 武器 。 
以色列 航空 工业 公司 的 Harpy 和 Harop 无人机 ， 能 朝着 敌方 防空 系统 发出 的 无线电波 飞去 ， 撞毁 它们 。 
公司 称 ， 这种 无人机 已 广泛 向 全世界 出售 。 
韩国 国防 承包商 DoDAAMSystems 公司 也 开发 出 了 一 种 警卫 机器人 “ 超级 aEgisII ” ， 装备 有机 枪 ， 能 利用 计算机 视觉 自动 探测 射击 3 公里 内 的 目标 。 
据 韩国 军方 报告 ， 已经 在 临 朝鲜 边界 的 非武装 地区 对 这些 装备 了 机器人 的 武器 进行 测试 。 
DoDAAMSystems 公司 称 ， 他们 已经 售出 超过 30 套 这种 系统 ， 有些 买家 在 中东 。 
目前 ， 这种 自动 系统 的 数量 大大 超过 机器人 武器 。 
　 　 有些 分析师 认为 ， 未来 几 年 ， 武器 的 自主 程度 将 变得 越来越 高 。 
位于 华盛顿 特区 的 一个 无党派 研究机构 “ 新 美国 ” 的 机器人 战争 专家 彼得 ・ 辛格 说 ： “ 战争 将 会 变得 完全 不同 ， 自动化 将 发挥 重要 作用 ， 速度 成为 关键 。 
” 他 预测 ， 未来 战争 的 场景 就 像 无人机 之间 的 混战 ， 或 机器人 战舰 和 敌方 潜艇 之间 的 遭遇战 ， 能 提供 刹那间 优势 的 武器 将 决定 战争 的 胜负 。 
“ 可能 是 高 密度 的 直接 对抗 ， 对 人类 来说 根本 来不及 介入 ， 因为 只 在 几 秒钟 内 一切 就 已 发生 了 。 
” 　 　 美国 军方 在 一 份 无人 系统 路线 图中 ， 对 这种 新型 战争 列出 了 一些 详细 计划 ， 但 它 在 武器化 方面 的 意图 仍 含糊 不 清 。 
国防部长 罗伯特 ・ 沃克 去年 3 月 曾 在 一 次 论坛 中 强调 ， 要 在 AI 和 机器人 方面 投资 ， 并称 在 战场 上 出现 越来 越多 的 自动化 系统 是 不可避免 的 。 
　 　 问及 关于 自主 武器 时 ， 沃克 坚持 美国 军方 “ 不会 把 做 致命 决定 的 权利 授权 给 一 台 机器 。 
” 但 他 也 补充 说 ， 如果 “ 竞争 对手 ” 更 愿意 把 这样 的 权利 交给 机器 的 话 ， 我们 也 不得不 决定 ， 怎样 才能 最好 地 竞争 。 
　 　 在 开发 陆海空 无人 战斗 系统 方面 ， 俄罗斯 也 遵循 同样 策略 ， 但 至少 现在 还 依靠 人类 操作 。 
俄罗斯 的 M 平台 是 一 种 小型 遥控 机器人 ， 装备 有 卡拉什尼科夫 步枪 和 榴弹发射器 ， 类似 美国 “ 魔爪 SWORDS ” 系统 （ 配备 M16 及 其它 武器 的 地面 机器人 ） 。 
俄罗斯 还 造 了 一个 更 大 的 无人 战车 Uran - 9 ， 配备 30 毫米 机关 炮 和 反坦克导弹 ， 去年 还 演示 了 一个 人形 战士 机器人 。 
　 　 联合国 一直 坚持 讨论 致命 自主 机器人 已 近 5 年 ， 但 其 成员国 还 未能 起草 一 份 协议 。 
2013 年 ， 联合国 人权问题 特别 报告员 克里斯 ・ 海恩斯 写 了 一 份 有 影响 的 报告 指出 ， 世界各国 有 一个 难得 的 机会 ， 在 自主 武器 大规模 发展 之前 讨论 它们 的 风险 。 
　 　 今年 12 月 ， 联合国 “ 特定 常规武器 公约 ” 将 召开 5 年 审查 会议 ， 致命性 自主 机器人 的 话题 将 提 上 日程 ， 但 要 在 会议 上 通过 禁令 是 不 可能 的 。 
这 一 决策 需要 所有 参会 国 一致 同意 ， 在 如何 处理 未来 可能 出现 的 泛 自主 武器 问题 上 ， 各国 仍 存在 根本 分歧 。 
　 　 最终 ， “ 杀手 机器人 ” 的 辩论 似乎 更 关乎 人类 自身 而 不是 机器人 ， 自主 武器 也 和 其他 任何 技术 一样 ， 至少 在 第一次 使用 时 ， 应该 更加 谨慎 ， 否则 会 是 混乱 和 灾难性 的 。 
像 “ 自主 作战 机器人 是 个 好 主意 吗 ？ 
” 这样 的 提问 可能 不 太 合适 ， 更好 的 应该 是 “ 我们 确信 自己 能 充分 信任 机器人 并 和 它们 生活 在 一起 吗 ？ 
” 　 　 兼顾 逻辑 与 道德 的 无人驾驶 车 　 　 设想 一下 ， 将来 的 某个 夜晚 ， 一个 醉醺醺 的 行人 突然 在 一 辆 无人驾驶 汽车 前面 摔倒 ， 结果 当场 被 撞死 。 
如果 车里 有人 ， 这 会 被 认为 是 一 次 事故 ， 因为 行人 显然 有 错 ， 理性 的 司机 也 难以 及时 躲避 。 
但 到 了 本世纪 20 年代 ， 随着 无人驾驶 汽车 日益 普及 ， 车祸 发生 的 概率 会 减少 90% ， 对应 司机 过失 的 “ 理性 人 ” 的 法律 标准 也 会 消失 ， 对应 的 标准 是 给 “ 理性 机器人 ” 。 
　 　 死者 家属 会 把 汽车 制造商 告 上 法庭 ， 指称 汽车 虽然 来不及 刹车 ， 但 它 应该 躲避 周围 行人 ， 越过 双黄 线 ， 撞 上 旁边 车道 上 那 辆 空空 的 无人驾驶 车 。 
而 根据 该 汽车 的 传感器 数据分析 ， 再现 撞 人 场景 也 确实 如此 。 
原告 律师 会 质问 汽车 头部 软件 设计师 ： “ 为什么 汽车 不会 转弯 ？ 
” 　 　 但 法庭 绝不 会 质问 一个 司机 ， 为什么 即将 撞车 前 他 不 采取 某个 紧急 措施 ， 因为 这是 毫无 意义 的 ― ― 司机 惊慌失措 无法 思考 ， 只能 凭 本能 做事 。 
但 如果 司机 是 个 机器人 ， 问 “ 为什么 ” 就 变得 合理 了 。 
　 　 在 人类 的 道德 标准 、 有 瑕疵 的 法典 案例 、 各种各样 工程师 想不到 的 假设 情况 中 ， 最 重要 的 假设 是 ： 一个 有着 良好 判断 能力 的 人 知道 何时 应 不顾 文字 上 的 法律 条规 ， 真正 维护 法律 精神 的 至高无上 。 
现在 工程师 必须 做 的 是 ， 把 一些 基本 的 判断 因素 教给 自动 驾驶 汽车 和 其他 机器人 。 
　 　 目前 ， 在 英国 部分 地区 、 德国 、 日本 、 美国 4 个 州 和 哥伦比亚特区 ， 法律 已 明确 允许 对 完全 自动化 车辆 进行 测试 ， 但 车里 还要 有 一个 测试 司机 。 
谷歌 、 日产 、 福特 及其他 公司 也 表示 ， 他们 预计 在 今后 5 到 10 年内 实现 真正 的 无人驾驶 操作 。 
　 　 自动 车辆 获得 环境 信息 是 通过 一 系列 传感器 ， 如 视频 摄像机 、 超声波 传感器 、 雷达 和 激光 雷达 （ 激光 测距 ） 。 
在 加利福尼亚州 ， 申请 自动车 测试 牌照 要 向 机动车 管理局 提供 碰撞 前 30 秒 的 所有 传感器 数据 ， 工程师 可以 凭着 这些 数据 精确 重现 碰撞 事故 场景 。 
利用 汽车 的 传感器 记录 ， 就 能 推知 它 决策 背后 的 逻辑 。 
发生 车祸 后 ， 监管 机构 和 律师 能 根据 这些 记录 ， 坚称 自动 车辆 有着 超人 的 安全标准 ， 通过 了 严格 的 审查 。 
制造商 和 软件 开发商 也 将 以 目前 人类 司机 无法 想象 的 方式 ， 为 无人驾驶 车 的 行为 辩护 。 
　 　 所有 驾驶 都 会 涉及 到 风险 问题 ， 但 这些 风险 如何 在 司机 、 行人 、 骑 自行车 者 之间 分配 ， 甚至 风险 的 性质 都 有着 道德 的 成分 。 
无论 对 工程师 还是 对 一般 公众 来说 ， 最 重要 的 是 自动 驾驶 汽车 的 决策 系统 ， 它 决定 了 汽车 行为 中 所 含 的 道德 成分 。 
　 　 对于 道德 上 模棱两可 的 情况 ， 在 遵循 法律 的 同时 尽量 减少 损失 。 
这种 策略 很 有 吸引力 ， 因为 它 允许 开发 人员 为 肇事车 “ 不作为 ” 的 行为 辩护 ， 也 向 立法者 传递 了 定义 道德 行为 的 责任 。 
但 不幸 的 是 ， 这方 面的 法律 尚未 完善 。 
　 　 在 大多数 国家 ， 法律 依赖 于 人类 的 常识 ， 对 自动 驾驶 汽车 编程 也 应 遵守 法律 规定 ： 不得 越过 双黄 线 ， 即使 有 撞 上 一个 醉汉 的 风险 ， 即使 另 一边 车道 上 只有 空 的 无人驾驶 车 ― ― 法律 很 难为 紧急 情况 制定 例外 ， 汽车 开发商 无从 确定 何时 越过 双黄 线 是 安全 的 。 
　 　 在 道路 车辆 自动化 伦理学 上 ， 这 并非 不可 解 的 难题 。 
可以 借鉴 其他 领域 的 大量 案例 ， 来 安全 合理 地 处理 类似 的 风险 和 利益 。 
比如 ， 给 病人 捐献 器官 ， 依据 它 会 带来 更 有 质量 的 生命 还是 残疾 的 生命 ， 还 增加 了 一些 对 社会 更 有用 的 职业 。 
自动 驾驶 车辆 面临 的 更 大 挑战 是 ， 它们 必须 在 信息 不 完全 、 程序员 常常 考虑 不到 的 情况 下 ， 利用 编码 在 软件 中 死板 的 道德 条规 ， 迅速 做出 决定 。 
　 　 幸运 的 是 ， 公众 并 没有 过分 地 期望 超人 智慧 ， 考虑 到 伦理道德 的 复杂性 ， 只要 对 自动车 行为 有 个 合理 的 判断 就 可以 了 。 
一 种 解决方案 不 一定 要 完美无瑕 ， 但 应该 是 多方 考虑 、 合情合理 的 。 
( 责编 ： 张帆 、 杨磊 ) 推荐 阅读 白春礼 ： 把 党 治国 理 政 成功 经验 作为 科技创新 的 行动 指南 2016 年 6 月 30 日 上午 ， 中国科学院 在 京 举行 纪念 建党 九 十 五 周年 表彰 大会 。 
中科院 党组 书记 、 院长 白春礼 出席 并 发表 讲话 。 
白春礼 要求 中科院 各级 党组织 和 广大 共产党员 ， 把 党 治国 理 政 的 成功 经验 作为 推动 科技创新 的 行动 指南 ， 在 推进 “ 四 个 率先 ” 目标 的 创新 实践 中 勇于 担当 历史 使命 ， 做出 应有 贡献 。 
【 详细 】 6 月 “ 科学 流言 榜 ” 发布 吃素 不得 心脑血管病 列 榜首 六月 “ 科学 流言 榜 ” 今天 发布 ， “ 吃素 不得 心脑血管病 ” 位列 榜首 。 
“ 每月 科学 流言 榜 ” 由 北京市 科学技术 协会 、 北京地区 网站 联合 辟谣 平台 、 北京 科技 记者 编辑 协会 共同 发布 ， 得到 中国科普作家协会 科技 传播 专业 委员会 、 中国 晚报 科学 编辑 记者 学会 、 上海 科技 传播 协会 的 支持 。 
【 详细 】 相关 新闻 精彩图集 任 病 热点 推荐 精彩推荐 视频 新闻 热点 排行 人民网 版权所有 ， 未经 书面 授权 禁止 使用