新闻 排行榜 热点 新闻 热门 图片 中青在线 版权 与 免责 声明 中国青年报 手机 版 中国青年报 手机 版 二维码 中国青年报 - 中青在线 官方 微信 中国青年报 - 中青在线 官方 微信 平台 2015 年 05 月 20 日 星期三 中青在线 往期回顾 新闻 列表 返回 目录 中青 报系 人工智能 还是 人类 公敌 ？ 
本报 记者 陈 墨 《 中国青年报 》 （ 2015 年 05 月 20 日 11 版 ） 2014 年 11 月 28 日 ， 在 浙江 宁波 国际 智能 机器人 环球 巡演 中 ， 机器人 与 市民 共舞 。 
CFP 供 图 在 前不久 的 伦敦 “ 谷歌 时代精神 ” 大会 上 ， 霍金 平静 地 描述 了 人类 的 命运 ： “ 在 未来 100 年内 ， 结合 人工智能 的 计算机 将 会 变得 比 人类 更 聪明 。 
” 这位 大 科学家 认为 ， 届时 ， 人类 将 被 机器 控制 。 
出席 美国 脱口秀 节目 时 ， 斯蒂芬 · 霍金 甚至 还 讲 了 一个 “ 恐怖 ” 故事 。 
“ 世上 真的 有 上帝 吗 ？ 
” 科学 家用 颤抖 的 声音 问道 。 
“ 现在 有 了 。 
” 世界 上 最 聪明 的 人工智能 电脑 回答 。 
话 毕 ， 一道 电光 闪过 它 的 电源 插头 — — 人们 再也 关 不 掉 它 了 。 
主持人 约翰 · 奥利弗 听 得 瞪 大 了 眼睛 。 
和 地球 上 大多 数人 一样 ， 他 也 相信 当 人类 真 要 与 人工智能 作战 时 ， 切断 它们 的 电源 就 足以 制 敌 了 。 
今年 年初 ， 霍金 在 一 封 提倡 控制 人工智能 发展 的 公开信 上 签 下 自己 的 名字 ， 微软 创始人 比尔 · 盖茨 、 特斯拉 汽车 公司 与 美国 太空 探索 技术 公司 CEO 伊隆 · 马斯克 的 名字 也 赫然 在 列 。 
在 他们 看来 ， 飞速 发展 的 人工智能 已经 成为 “ 我们 现存 的 最大 威胁 ” 。 
人类 一手 创造 了 敌人 ， 并用 自己 最强 大 的 武器 “ 智慧 ” 武装 了 它 几 位 人类 科技界 “ 顶梁柱 ” 担心 的 “ 人机 大战 ” ， 很 可能 已经 悄悄 冒 出 硝烟 的 味道 。 
在 上传 至 Youtube 的 一 段 视频 中 ， 一 只 名为 Spot 的 机器 狗 协调 地 运动 着 白色 的 四肢 ， 像 真正 的 狗 一样 行走 。 
为了 证明 它 的 坚固 ， 有人 冲出 来 ， 对准 它 的 腹部 结结实实 地 踢 了 一脚 。 
机器 狗 一个 趔趄 ， 一边 发出 急促 的 吱吱声 ， 一边 紧 踏 几 步 保持 平衡 。 
这 段 “ 虐 狗 ” 视频 引发 了 热 议 。 
有 网友 评论 ： “ 这 就是 世界 结束 的 方式 。 
不是 大 爆炸 ， 而是 在 被 你 踢 了 之后 ， 机器 狗 转身 扑 向 你 。 
” 在 现实 世界 中 ， 人类 也 正 处在 人工智能 的 包围 中 ： 拿 起 手机 ， 可 与 虚拟 助手 Siri 对话 ； 想要 出门 ， 可 乘 无人驾驶 汽车 兜风 ； 走进 医院 ， 超级 电脑 沃森 医生 正在 “ 坐诊 ” 。 
战争 可能 在 某 一 天 悄悄 打响 。 
电脑 擅自 替 你 做出 抛售 股票 的 决定 ， 或者 无人驾驶 汽车 突然 决定 在 高速 路上 歇脚 。 
之后 的 情况 则 将 超出 “ 故障 ” 的 范畴 ， 演 变成 一 场 灾难 。 
在 忧心忡忡 的 科学家 们 看来 ， 这 将 是 一 场 前所未有 的 战争 。 
人类 一手 创造 了 自己 的 敌人 ， 并用 自己 最强 大 的 武器 — — “ 智慧 ” ， 为 它 武装 。 
“ 我们 人类 之所以 存活 于 世 ， 从来 不是 因为 我们 是 这 星球 上 最 强壮 、 或 行动 最快 的 物种 ， 而是 因为 我们 最 聪明 。 
” 《 我们 最终 的 发明 ： 人工智能 和 人类 时代 的 终结 》 作者 詹姆斯 · 巴拉特 说道 ， “ 所以 当 比 我们 更 聪明 的 力量 出现 在 这 星球 上 的 时候 ， 它 就 将 接管 地球 。 
” 超人 学家 尼克 · 博斯 特罗姆 在 《 超级 智能 》 一书 中 描绘 了 令人 毛骨悚然 的 场面 ： 纳米 机器人 突然 开始 疯狂 地 自我 复制 ， 而 它们 此前 被 植入 人 体内 ， 是 用来 对抗 疾病 。 
上上 个 周末 ， 身 在 伦敦 的 霍金 以 三维 全息 图 的 方式 出现 在 悉尼歌剧院 ， 用 机械 声音 对 坐在 台下 的 人们 说 ： “ 我 认为 我们 无法 再 在 这个 脆弱 的 星球 上 生活 1000 年 。 
” 受困 于 缓慢 的 进化 速度 ， 人类 根本 无力 与 飞速 发展 的 人工智能 抗衡 ， 最终 ， “ 人工智能 的 全面 发展 将 导致 人类 的 灭绝 ” 。 
霍金 甚至 主张 人类 去 其他 星球 “ 殖民 ” ， 以 保证 种群 的 延续 。 
另 一些 学者 则 描绘 了 人类 完全 被 机器人 “ 脾气 ” 主宰 的 悲凉 命运 。 
他 若 残暴 ， 我们 可能 被 屠杀 ； 他 若 人道 ， 我们 的 出生率 可能 被 逐渐 降低 ， 自然 灭绝 ； 若 他们 当中 有 善良 的 自由 主义者 ， 我们 将 被 驯化 。 
比起 “ 宠物 ” ， 对 科技 持 乐观 态度 的 哲学家 格雷 · 斯科特 更 愿意 把 人类 视为 “ 学生 ” 。 
当 人工智能 超越 了 人类 智能 ， 人类 将 在 它们 的 指导 下 ， “ 成为 更好 的 物种 。 
” 在 一 片 恐惧 中 ， 百度 公司 首席 科学家 吴 恩 达 认为 ， 现在 为 人工智能 的 负面 影响 担忧 ， 就 像 担心 火星 上 人口 过剩 一样 遥不可及 。 
特斯拉 CEO 马斯克 却 无法 对此 视而不见 。 
这位 亿万 富翁 已经 开始 “ 站岗 放哨 ” 。 
他 为 一家 名为 “ DeepMind ” 的 人工智能 公司 注入 资金 ， 只是 为了 “ 盯 着 这种 技术 的 走向 。 
” 人工智能 拥有 成为 “ 终结者 ” 的 潜力 ， 即便 在 它们 完全 服从 命令 的 时候 一 位 高级 认知 机器人学 研究者 正 面临 着 颇为 纠结 的 教育 问题 。 
与 不知 怎样 向 孩子 解释 “ 小孩 从 哪儿 来 ” 的 父母 不同 ， 他 在 思考 要 不要 向 孩子 揭示 一个 残酷 的 前景 — — 他们 可能 不会 有 机会 拥有 自己 的 孩子 ， 因为 他 认为 人工智能 统治 的 时代 已经 近在咫尺 了 。 
“ 人工智能 真正 严重 的 危险 将 在 5 年 、 最 多 10 年后 便 会 出现 。 
” 马斯克 去年 11 月 在 群 组 博客 Edge 的 讨论 中 写道 。 
或许 是 太 过 惊悚 ， 消息 刚 发出 便 被 删除 。 
相比之下 ， 霍金 给出 的 100 年 期限 简直 温和 极了 。 
不过 眼下 ， 人们 还是 可以 确定 ， 至少 在 一 段 时间 内 ， 人工智能 只 会 是 让 生活 更 美好 的 “ 大白 ” 。 
它们 将 是 照顾老人 的 护工 ， 看护 孩子 的 玩 伴 ， 打理 家务 的 管家 ， 甚至 与 人 心灵 相通 的 朋友 。 
通过 解码 面部 肌肉 运动 ， 人工智能 机器人 将 得以 理解 人 的 感情 和 思维 ， 如同 科幻电影 里 的 “ 大白 ” 一般 ， 时刻 准备 送 上 治愈 的 拥抱 。 
乐观 的 哲学家 格雷 · 斯科特 描绘 了 一 幅 美好 的 图景 ： 到 2018 年 ， 自动化 将 遍及 世界 ， 承包 无聊 或 危险 的 工作 ， 辅助 人类 做 有趣 的 事情 。 
在 不远 的 未来 ， 机器 更 将 满足 人类 的 生活 所 需 ， 让 二极管 去 算账 ， 让 女 会计 成为 诗人 。 
然而 ， 这些 美妙 的 念头 无 法令 他 回避 人工智能 拥有 成为 “ 终结者 ” 的 潜力 ， 即便 在 它们 完全 服从 命令 的 时候 。 
“ 在 追击 人群 中 的 一个 目标 时 ， 它 会 知道 等 目标 离开 人群 后 再 开火 吗 ？ 
” 斯科特 问道 。 
这是 科学家 们 共同 承认 的 一个 困境 ： 如何 为 道德 编码 。 
当 人工智能 被 用于 军事 ， 这 变得 尤为 重要 。 
就 在 上月 ， 哈佛大学 法学院 呼吁 “ 通过 国际 法令 ， 禁止 开发 、 生产 、 使用 自主 式 武器 ” 。 
起草 报告 的 邦 妮 · 多 赫蒂 义正辞严 地 表示 ： “ 没有 道德 和 人性 的 机器 不 应 拥有 杀戮 的 权力 ！ 
” 在 好莱坞 电影 《 复仇者 联盟 ： 奥 创 纪元 》 中 ， 人工智能 奥 创 以 “ 杀戮 ” 的 方式 ， 忠实 地 履行 着 创造者 维护 和平 的 意愿 ， 在 它 看来 ， 这 手段 最 行之有效 。 
现实 中 ， 科学家 也 担心 ， 会 不会 有 一 天 ， “ 抗癌 斗士 ” 纳米 机器人 仔细 思考 后 发现 ， 比起 杀死 癌细胞 ， 清除 基因 上 易 患病 的 人 更 方便 。 
“ 把 能量 释放 出来 容易 ， 想 确保 安全 却 很 难 。 
” 马斯克 认为 ， 人工智能 研究 的 重点 首先 应该 放在 安全 上 。 
如果 开发 时间 因此 延长 ， 恰恰 是 正确 的 路径 。 
“ 我们 不能 一头 扎 向 自己 不 懂 的 东西 。 
” 今年 年初 ， 霍金 、 马斯克 、 盖茨 等 共同 签署 了 公开信 ， 呼吁 科学家 对 人工智能 提高 警惕 。 
霍金 建议 人工智能 研究机构 应 协同 合作 ， 确保 发展 速度 不会 过 快 ， 并 使 之 保持 在 人类 的 掌控 之中 。 
人工智能 将 是 人类 历史 上 最大 的 成功 ， 也 可能 是 最后 一个 如果 有 一 天 ， 外星 文明 发来 讯息 ： “ 我们 将 在 几十 年 之内 到 地球 来 。 
” 我们 当然 不会 回应 ： “ 好 的 ， 我们 给 你们 留 着 灯 。 
” 对此 ， 霍金 在 2014 年 5 月 发表 在 英国 《 独立报 》 的 一 篇 文章 中 写道 ， “ 相似 的 事情 正在 我们 与 人工智能 之间 发生 。 
” 哲学家 格雷 · 斯科特 指出 ， 人工智能 是 “ 入侵者 ” ， 而 人类 对 它们 而言 也 是 “ 压迫者 ” 。 
机器 的 反应 取决于 人类 对 它们 的 设定 ， 降低 机器 的 自尊 水平 或许 能够 避免 冲突 。 
马斯克 则 将 “ 仁慈 ” 视为 保证 人类 控制 水平 的 最佳 方式 。 
在 “ 时代精神 ” 大会 上 ， 轮椅 上 的 霍金 用 脸部 的 一块 肌肉 指挥 机器 说道 ： “ 我们 需要 确保 计算机 与 我们 的 目标 相 一致 。 
我们 的 未来 取决于 技术 不断 增强 的 力量 和 我们 使用 技术 的 智慧 之间 的 赛跑 。 
” 在 另 一些 科学家 看来 ， 人类 与 人工智能 可能 根本 不会 有 “ 开战 ” 的 机会 。 
在 被 人工智能 冲击 之前 ， 人类 的 防线 就 已经 开始 不由自主 地 倒戈 。 
第 一 台 盲人 阅读机 的 发明者 雷蒙德 · 库茨 魏尔 在 《 灵魂 机器 的 时代 》 一书 中 描述 道 ， 人类 不会 把 控制权 拱手 让与 机器 ， 人工智能 也 不会 主动 攫取 。 
随着 机器 愈发 复杂 和 智能 ， 人类 对 机器 的 依赖 也 日益 加深 ， 最终 不得不 听任 机器 来 控制 。 
到 那时 ， 关掉 机器 是 无法 摆脱 他们 的 控制 的 ， 因为 关机 于 我们 而言 无异 于 自杀 。 
斯科特 依旧 对 人类 充满 信心 ， 他 相信 ， 人类 已经 用 技术 和 法律规范 约束 了 核弹 ， 也 必定 有 能力 管理 人工智能 。 
虽然 在 霍金 口中 ， 人工智能 无疑 是 前所未有 的 劲敌 ， “ 比 金融家 更 聪明 、 比 研究者 更 富 创造力 、 比 领导 更具 操控 力 ” 。 
在 电影 《 超验 骇客 》 中 ， 被 暗杀 的 科学家 威尔 在 妻子 的 帮助 下 ， 成功 将 自我 意志 转入 超级 电脑 之中 ， 从此 成 了 无所不在 的 “ 超验 骇客 ” 。 
他 能 从 土壤 中 造 出 太阳能 板 ， 能 让 残疾人 长出 新 肢 ， 能 全天候 通过 一切 终端 出现 ， 人类 已经 无法 阻止 这个 人机 合一 的 超级 存在 。 
曾 主张 修改 人类 基因 与 机器 抗衡 的 霍金 对此 大为 兴奋 。 
他 力 挺 把 人 的 大脑 与 计算机 直接 相连 的 “ 人脑 控制 技术 ” ， 由此 打破 人类 智能 与 人工智能 间 的 藩篱 ， 人 与 机器 最终 得以 合二为一 。 
自此 ， 人工智能 将对 人类 智能 做出 贡献 ， 而 非 威胁 。 
到 那时 ， 人类 千百年来 苦苦 追求 的 长生不老 也 可能 因此 实现 ， 肉体 死去 ， 精神 却 在 人工智能 系统 中 获得 无限 的 权力 和 自由 。 
“ 人工智能 将 是 人类 历史 上 最大 的 成功 ， ” 早已 瘫痪 的 科学家 霍金 在 机器 的 辅助 下 写道 ， “ 不幸 的 是 ， 这 也 可能 是 最后 一个 。 
” 在 前不久 的 伦敦 “ 谷歌 时代精神 ” 大会 上 ， 霍金 平静 地 描述 了 人类 的 命运 ： “ 在 未来 100 年内 ， 结合 人工智能 的 计算机 将 会 变得 比 人类 更 聪明 。 
” 这位 大 科学家 认为 ， 届时 ， 人类 将 被 机器 控制 。 
出席 美国 脱口秀 节目 时 ， 斯蒂芬 · 霍金 甚至 还 讲 了 一个 “ 恐怖 ” 故事 。 
“ 世上 真的 有 上帝 吗 ？ 
” 科学 家用 颤抖 的 声音 问道 。 
“ 现在 有 了 。 
” 世界 上 最 聪明 的 人工智能 电脑 回答 。 
话 毕 ， 一道 电光 闪过 它 的 电源 插头 — — 人们 再也 关 不 掉 它 了 。 
主持人 约翰 · 奥利弗 听 得 瞪 大 了 眼睛 。 
和 地球 上 大多 数人 一样 ， 他 也 相信 当 人类 真 要 与 人工智能 作战 时 ， 切断 它们 的 电源 就 足以 制 敌 了 。 
今年 年初 ， 霍金 在 一 封 提倡 控制 人工智能 发展 的 公开信 上 签 下 自己 的 名字 ， 微软 创始人 比尔 · 盖茨 、 特斯拉 汽车 公司 与 美国 太空 探索 技术 公司 CEO 伊隆 · 马斯克 的 名字 也 赫然 在 列 。 
在 他们 看来 ， 飞速 发展 的 人工智能 已经 成为 “ 我们 现存 的 最大 威胁 ” 。 
人类 一手 创造 了 敌人 ， 并用 自己 最强 大 的 武器 “ 智慧 ” 武装 了 它 几 位 人类 科技界 “ 顶梁柱 ” 担心 的 “ 人机 大战 ” ， 很 可能 已经 悄悄 冒 出 硝烟 的 味道 。 
在 上传 至 Youtube 的 一 段 视频 中 ， 一 只 名为 Spot 的 机器 狗 协调 地 运动 着 白色 的 四肢 ， 像 真正 的 狗 一样 行走 。 
为了 证明 它 的 坚固 ， 有人 冲出 来 ， 对准 它 的 腹部 结结实实 地 踢 了 一脚 。 
机器 狗 一个 趔趄 ， 一边 发出 急促 的 吱吱声 ， 一边 紧 踏 几 步 保持 平衡 。 
这 段 “ 虐 狗 ” 视频 引发 了 热 议 。 
有 网友 评论 ： “ 这 就是 世界 结束 的 方式 。 
不是 大 爆炸 ， 而是 在 被 你 踢 了 之后 ， 机器 狗 转身 扑 向 你 。 
” 在 现实 世界 中 ， 人类 也 正 处在 人工智能 的 包围 中 ： 拿 起 手机 ， 可 与 虚拟 助手 Siri 对话 ； 想要 出门 ， 可 乘 无人驾驶 汽车 兜风 ； 走进 医院 ， 超级 电脑 沃森 医生 正在 “ 坐诊 ” 。 
战争 可能 在 某 一 天 悄悄 打响 。 
电脑 擅自 替 你 做出 抛售 股票 的 决定 ， 或者 无人驾驶 汽车 突然 决定 在 高速 路上 歇脚 。 
之后 的 情况 则 将 超出 “ 故障 ” 的 范畴 ， 演 变成 一 场 灾难 。 
在 忧心忡忡 的 科学家 们 看来 ， 这 将 是 一 场 前所未有 的 战争 。 
人类 一手 创造 了 自己 的 敌人 ， 并用 自己 最强 大 的 武器 — — “ 智慧 ” ， 为 它 武装 。 
“ 我们 人类 之所以 存活 于 世 ， 从来 不是 因为 我们 是 这 星球 上 最 强壮 、 或 行动 最快 的 物种 ， 而是 因为 我们 最 聪明 。 
” 《 我们 最终 的 发明 ： 人工智能 和 人类 时代 的 终结 》 作者 詹姆斯 · 巴拉特 说道 ， “ 所以 当 比 我们 更 聪明 的 力量 出现 在 这 星球 上 的 时候 ， 它 就 将 接管 地球 。 
” 超人 学家 尼克 · 博斯 特罗姆 在 《 超级 智能 》 一书 中 描绘 了 令人 毛骨悚然 的 场面 ： 纳米 机器人 突然 开始 疯狂 地 自我 复制 ， 而 它们 此前 被 植入 人 体内 ， 是 用来 对抗 疾病 。 
上上 个 周末 ， 身 在 伦敦 的 霍金 以 三维 全息 图 的 方式 出现 在 悉尼歌剧院 ， 用 机械 声音 对 坐在 台下 的 人们 说 ： “ 我 认为 我们 无法 再 在 这个 脆弱 的 星球 上 生活 1000 年 。 
” 受困 于 缓慢 的 进化 速度 ， 人类 根本 无力 与 飞速 发展 的 人工智能 抗衡 ， 最终 ， “ 人工智能 的 全面 发展 将 导致 人类 的 灭绝 ” 。 
霍金 甚至 主张 人类 去 其他 星球 “ 殖民 ” ， 以 保证 种群 的 延续 。 
另 一些 学者 则 描绘 了 人类 完全 被 机器人 “ 脾气 ” 主宰 的 悲凉 命运 。 
他 若 残暴 ， 我们 可能 被 屠杀 ； 他 若 人道 ， 我们 的 出生率 可能 被 逐渐 降低 ， 自然 灭绝 ； 若 他们 当中 有 善良 的 自由 主义者 ， 我们 将 被 驯化 。 
比起 “ 宠物 ” ， 对 科技 持 乐观 态度 的 哲学家 格雷 · 斯科特 更 愿意 把 人类 视为 “ 学生 ” 。 
当 人工智能 超越 了 人类 智能 ， 人类 将 在 它们 的 指导 下 ， “ 成为 更好 的 物种 。 
” 在 一 片 恐惧 中 ， 百度 公司 首席 科学家 吴 恩 达 认为 ， 现在 为 人工智能 的 负面 影响 担忧 ， 就 像 担心 火星 上 人口 过剩 一样 遥不可及 。 
特斯拉 CEO 马斯克 却 无法 对此 视而不见 。 
这位 亿万 富翁 已经 开始 “ 站岗 放哨 ” 。 
他 为 一家 名为 “ DeepMind ” 的 人工智能 公司 注入 资金 ， 只是 为了 “ 盯 着 这种 技术 的 走向 。 
” 人工智能 拥有 成为 “ 终结者 ” 的 潜力 ， 即便 在 它们 完全 服从 命令 的 时候 一 位 高级 认知 机器人学 研究者 正 面临 着 颇为 纠结 的 教育 问题 。 
与 不知 怎样 向 孩子 解释 “ 小孩 从 哪儿 来 ” 的 父母 不同 ， 他 在 思考 要 不要 向 孩子 揭示 一个 残酷 的 前景 — — 他们 可能 不会 有 机会 拥有 自己 的 孩子 ， 因为 他 认为 人工智能 统治 的 时代 已经 近在咫尺 了 。 
“ 人工智能 真正 严重 的 危险 将 在 5 年 、 最 多 10 年后 便 会 出现 。 
” 马斯克 去年 11 月 在 群 组 博客 Edge 的 讨论 中 写道 。 
或许 是 太 过 惊悚 ， 消息 刚 发出 便 被 删除 。 
相比之下 ， 霍金 给出 的 100 年 期限 简直 温和 极了 。 
不过 眼下 ， 人们 还是 可以 确定 ， 至少 在 一 段 时间 内 ， 人工智能 只 会 是 让 生活 更 美好 的 “ 大白 ” 。 
它们 将 是 照顾老人 的 护工 ， 看护 孩子 的 玩 伴 ， 打理 家务 的 管家 ， 甚至 与 人 心灵 相通 的 朋友 。 
通过 解码 面部 肌肉 运动 ， 人工智能 机器人 将 得以 理解 人 的 感情 和 思维 ， 如同 科幻电影 里 的 “ 大白 ” 一般 ， 时刻 准备 送 上 治愈 的 拥抱 。 
乐观 的 哲学家 格雷 · 斯科特 描绘 了 一 幅 美好 的 图景 ： 到 2018 年 ， 自动化 将 遍及 世界 ， 承包 无聊 或 危险 的 工作 ， 辅助 人类 做 有趣 的 事情 。 
在 不远 的 未来 ， 机器 更 将 满足 人类 的 生活 所 需 ， 让 二极管 去 算账 ， 让 女 会计 成为 诗人 。 
然而 ， 这些 美妙 的 念头 无 法令 他 回避 人工智能 拥有 成为 “ 终结者 ” 的 潜力 ， 即便 在 它们 完全 服从 命令 的 时候 。 
“ 在 追击 人群 中 的 一个 目标 时 ， 它 会 知道 等 目标 离开 人群 后 再 开火 吗 ？ 
” 斯科特 问道 。 
这是 科学家 们 共同 承认 的 一个 困境 ： 如何 为 道德 编码 。 
当 人工智能 被 用于 军事 ， 这 变得 尤为 重要 。 
就 在 上月 ， 哈佛大学 法学院 呼吁 “ 通过 国际 法令 ， 禁止 开发 、 生产 、 使用 自主 式 武器 ” 。 
起草 报告 的 邦 妮 · 多 赫蒂 义正辞严 地 表示 ： “ 没有 道德 和 人性 的 机器 不 应 拥有 杀戮 的 权力 ！ 
” 在 好莱坞 电影 《 复仇者 联盟 ： 奥 创 纪元 》 中 ， 人工智能 奥 创 以 “ 杀戮 ” 的 方式 ， 忠实 地 履行 着 创造者 维护 和平 的 意愿 ， 在 它 看来 ， 这 手段 最 行之有效 。 
现实 中 ， 科学家 也 担心 ， 会 不会 有 一 天 ， “ 抗癌 斗士 ” 纳米 机器人 仔细 思考 后 发现 ， 比起 杀死 癌细胞 ， 清除 基因 上 易 患病 的 人 更 方便 。 
“ 把 能量 释放 出来 容易 ， 想 确保 安全 却 很 难 。 
” 马斯克 认为 ， 人工智能 研究 的 重点 首先 应该 放在 安全 上 。 
如果 开发 时间 因此 延长 ， 恰恰 是 正确 的 路径 。 
“ 我们 不能 一头 扎 向 自己 不 懂 的 东西 。 
” 今年 年初 ， 霍金 、 马斯克 、 盖茨 等 共同 签署 了 公开信 ， 呼吁 科学家 对 人工智能 提高 警惕 。 
霍金 建议 人工智能 研究机构 应 协同 合作 ， 确保 发展 速度 不会 过 快 ， 并 使 之 保持 在 人类 的 掌控 之中 。 
人工智能 将 是 人类 历史 上 最大 的 成功 ， 也 可能 是 最后 一个 如果 有 一 天 ， 外星 文明 发来 讯息 ： “ 我们 将 在 几十 年 之内 到 地球 来 。 
” 我们 当然 不会 回应 ： “ 好 的 ， 我们 给 你们 留 着 灯 。 
” 对此 ， 霍金 在 2014 年 5 月 发表 在 英国 《 独立报 》 的 一 篇 文章 中 写道 ， “ 相似 的 事情 正在 我们 与 人工智能 之间 发生 。 
” 哲学家 格雷 · 斯科特 指出 ， 人工智能 是 “ 入侵者 ” ， 而 人类 对 它们 而言 也 是 “ 压迫者 ” 。 
机器 的 反应 取决于 人类 对 它们 的 设定 ， 降低 机器 的 自尊 水平 或许 能够 避免 冲突 。 
马斯克 则 将 “ 仁慈 ” 视为 保证 人类 控制 水平 的 最佳 方式 。 
在 “ 时代精神 ” 大会 上 ， 轮椅 上 的 霍金 用 脸部 的 一块 肌肉 指挥 机器 说道 ： “ 我们 需要 确保 计算机 与 我们 的 目标 相 一致 。 
我们 的 未来 取决于 技术 不断 增强 的 力量 和 我们 使用 技术 的 智慧 之间 的 赛跑 。 
” 在 另 一些 科学家 看来 ， 人类 与 人工智能 可能 根本 不会 有 “ 开战 ” 的 机会 。 
在 被 人工智能 冲击 之前 ， 人类 的 防线 就 已经 开始 不由自主 地 倒戈 。 
第 一 台 盲人 阅读机 的 发明者 雷蒙德 · 库茨 魏尔 在 《 灵魂 机器 的 时代 》 一书 中 描述 道 ， 人类 不会 把 控制权 拱手 让与 机器 ， 人工智能 也 不会 主动 攫取 。 
随着 机器 愈发 复杂 和 智能 ， 人类 对 机器 的 依赖 也 日益 加深 ， 最终 不得不 听任 机器 来 控制 。 
到 那时 ， 关掉 机器 是 无法 摆脱 他们 的 控制 的 ， 因为 关机 于 我们 而言 无异 于 自杀 。 
斯科特 依旧 对 人类 充满 信心 ， 他 相信 ， 人类 已经 用 技术 和 法律规范 约束 了 核弹 ， 也 必定 有 能力 管理 人工智能 。 
虽然 在 霍金 口中 ， 人工智能 无疑 是 前所未有 的 劲敌 ， “ 比 金融家 更 聪明 、 比 研究者 更 富 创造力 、 比 领导 更具 操控 力 ” 。 
在 电影 《 超验 骇客 》 中 ， 被 暗杀 的 科学家 威尔 在 妻子 的 帮助 下 ， 成功 将 自我 意志 转入 超级 电脑 之中 ， 从此 成 了 无所不在 的 “ 超验 骇客 ” 。 
他 能 从 土壤 中 造 出 太阳能 板 ， 能 让 残疾人 长出 新 肢 ， 能 全天候 通过 一切 终端 出现 ， 人类 已经 无法 阻止 这个 人机 合一 的 超级 存在 。 
曾 主张 修改 人类 基因 与 机器 抗衡 的 霍金 对此 大为 兴奋 。 
他 力 挺 把 人 的 大脑 与 计算机 直接 相连 的 “ 人脑 控制 技术 ” ， 由此 打破 人类 智能 与 人工智能 间 的 藩篱 ， 人 与 机器 最终 得以 合二为一 。 
自此 ， 人工智能 将对 人类 智能 做出 贡献 ， 而 非 威胁 。 
到 那时 ， 人类 千百年来 苦苦 追求 的 长生不老 也 可能 因此 实现 ， 肉体 死去 ， 精神 却 在 人工智能 系统 中 获得 无限 的 权力 和 自由 。 
“ 人工智能 将 是 人类 历史 上 最大 的 成功 ， ” 早已 瘫痪 的 科学家 霍金 在 机器 的 辅助 下 写道 ， “ 不幸 的 是 ， 这 也 可能 是 最后 一个 。 
” 中国青年报 青年参考 青年时讯 青年 商旅 报 日 一 二 三 四 五 六 关闭 人工智能 还是 人类 公敌 ？ 
化学家 肖恩 的 医学 梦 召集 美丽 细菌 ， 杀 向 癌症 中国式 精准 美国式 迅捷 自然 式 持久