首页 - > > 经济频道 - > > 国际 - > > 正文 科学家 : 须 建立 “ 道德 和 伦理 委员会 ” 掌控 人工智能 来源 ： 中国 新闻网 许 薇 薇 悉尼大学 电气工程 与 信息 工程学院 计算机 工程 徐东 教授 在 工作 中 。 
许 薇 薇 摄 中新网 悉尼 3 月 23 日 电 ( 许 薇 薇 ) 悉尼大学 两位 机器学习 专家 在 此间 发出 警告 ： 必须 建立 “ 道德 和 伦理 委员会 ” 来 保持 掌控 人工智能 ， 否则 我们 可能 会 变得 无力 抵抗 。 
悉尼大学 电气工程 与 信息 工程学院 计算机 工程 徐东 教授 说 ， 近日 世界 围棋赛 冠军 在 人机 大战 中 的 惨败 ， 重新 引发 了 人们 对 人工智能 ( AI ) 设备 未来 会 扮演 何种 角色 的 担忧 。 
这位 研究领域 包括 计算机 视觉 、 机器学习 和 多媒体 内容 分析 的 教授 说 ， 现在 的 问题 是 ， 我们 应该 对 人工智能 中 自我 学习 进行 多少 控制 。 
“ 科学家 们 和 科技界 的 投资者 在 几 年前 就 已经 对 人工智能 抱有 巨大 的 热情 ， 但是 这 台 超级 计算机 的 胜利 终于 让 公众 也 认识 到 了 它 的 能力 。 
这是 科技界 的 重大 突破 。 
” 徐 教授 说 。 
徐东 认为 ， 超级 计算机 比 人类 思维 的 更 强大 。 
竞技性 游戏 ， 例如 围棋 ， 实际上 都 是 有关 规则 的 ， 这 对 一 台 电脑 来说 很 容易 。 
一旦 电脑 掌握 了 这些 规则 ， 它 就 会 很 善于 玩 这些 游戏 。 
一个 人类 玩家 可以 被 情绪 所 影响 ， 比如 压力 或 高兴 ， 但 电脑 并 不会 。 
一 个人 在 一 年 之内 能够 记下 1000 个 棋局 ， 但 计算 机能 记住 数万 或者 数 十 万 盘 棋 。 
超级 计算机 可以 随时 改进 ， 如果 它 输 了 一局 ， 那么 它 会 对此 进行 分析 ， 并且 在下 一局 表现 地 更好 。 
徐东 强调 ， 如果 超级 计算机 能够 完全 模仿 人类 的 大脑 ， 具有 愤怒 或 悲伤 等 人类 情绪 ， 它 将 会 更加 危险 。 
徐东 认为 ， 对于 如 谷歌 和 facebook 这样 的 公司 来说 ， 建立 “ 道德 和 伦理 委员会 ” 来 保持 掌控 ， 使 科学研究 不会 走向 错误 的 方向 ， 发明 出来 的 机器 不会 做出 任何 带有 恶意 的 事情 。 
悉尼大学 复杂系统 的 高级 讲师 麦克 · 哈尔 花 了 多年 时间 来 研究 中国 古代 的 棋盘 游戏 背后 的 人工智能 ， 他 说 ： “ 围棋 可能 是 今天 普遍 在 玩 的 最 复杂 的 游戏 。 
和 有 极大 数量 可能 棋局 的 国际象棋 相比 ， 围棋 甚至 拥有 比 宇宙 中 的 原子 数量 还要 多 的 可能性 的 棋局 。 
哈尔 说 ： “ 现在 已经 发展 到 了 人工智能 在 简单 和 复杂 的 任务 中 都 可以 智胜 人类 的 阶段 。 
这是 需要 引发 担忧 的 ， 因为 人工智能 技术 可能 在 未来 达到 一个 阶段 ， 它 被 应用 于 防御 方面 ， 在 操纵 过程 中 已经 不 需要 人类 是 可能 的 ， 也就是说 已 成为 真正 自主 的 人工智能 ( AI ) ” 。 
【 责任 编辑 ： qing_gj 】 相关 新闻 冰点 暖 闻 app 下载 新闻 娱乐 教育 法治 经济 旅游 河南 开封 再现 千 年前 惊险 马战 范冰冰 孙俪 Angelababy 女神 中性 装 又 帅 又 媚 丹麦 老虎 冒险 游 过 绿藻 池 四川 一 少女 坐 火车 铁轨 上 晒太阳 听歌 被 撞 身亡 奥巴马 致辞 后 找 卡斯特罗 握手 遭遇 尴尬 一幕 各位 专家学者 合影 留念 更多 图片 更多 > > 靓 ！ 
女 大学生 士兵 沈阳 现 “ 阳台 大楼 ” 开封 再现 千 年前 惊险 马战 准 空姐 化身 性感 美人鱼 特种兵 的 “ 魔鬼 周 ” Baby 在 表情 包 路上 越 走 越 远 合肥 毁容 少女 获赔 南京 农民 田野 “ 编 龙袍 ” 热图 新闻 排行 热点 文章 热点 专题