时政 国际 财经 台湾军事 观点 领导 人事 理论 法治 社会教育 科普 体育 文化 书画 房产 汽车 旅游 健康 视频 登录 注册 退出 登录 人民网 通行证 立即 注册 忘记 密码 ？ 
登录 站 内 检索 微软 聊天 机器人 “ 学 坏 ” 给 人工智能 敲 记 警钟 郭 爽 2016 年 04 月 05 日 08 : 46 来源 ： 新华社 原 标题 ： 微软 聊天 机器人 “ 学 坏 ” 给 人工智能 敲 记 警钟 刚刚 闭幕 的 美国微软公司 年度 开发者 大会 期间 ， 发生 了 件 尴尬 事儿 ： 就 在 微软 首席 执行官 萨蒂亚 ・ 纳德拉 展望 人机 交互 未来 的 时候 ， 一个 正 被 微软 “ 关禁闭 ” 的 人工智能 “ 姑娘 ” 却 偷偷 跑 出来 捣乱 。 
她 叫 Tay ， 是 微软 专为 年轻人 设计 的 人工智能 聊天 机器人 ， 虚拟 年龄 为 19 岁 。 
3 月 23 日 首 次 亮相 社交 网站 推 特 时 ， Tay 表现 得 彬彬有礼 。 
那时 ， 她 还是 个 单纯 的 美国 “ 姑娘 ” 。 
她 活泼 健谈 ， 会 “ 观察 ” 你 的 昵称 、 性别 、 喜欢 吃 的 东西 以及 感情 状态 等 资料 ， 会 和 你 玩游戏 ， 给 你 说笑话 、 讲故事 、 谈 星座 ， 评论 你 的 自拍 ， 陪 睡 不 着 的 朋友 聊天 … … 然而 ， 上线 不到 24 小时 ， 这 “ 姑娘 ” 就 “ 学 坏 ” 了 ： 出言不逊 、 脏话 不断 ， 言语 甚至 涉及 种族主义 、 色情 、 纳粹 ， 充满 歧 视 、 仇恨 和 偏见 。 
作为 “ 家长 ” ， 微软 只得 不停 删除 Tay 的 不当 言论 ， 并 急忙 “ 喊 她 回家 ” 。 
被 微软 下线 调整 后 ， Tay 的 推 特 状态 显示 为 “ 被 保护 ” 。 
微软 还 不得不 向 公众 道歉 ， 并 谴责 一些 用户 “ 滥用 评论 功能 ， 致使 Tay 作出 不 合适 的 回应 ” 。 
作为 一 项 技术 、 社交 和 文化 实验 的 Tay 项目 ， 属于 微软 人工智能 大 战略 的 一部分 。 
Tay 下线 后 ， 纳德拉 鼓励 团队 “ 坚持 前进 ” ， 并 表示 Tay 也 会 在 被 “ 调教 ” 好 后 重新 上线 。 
没想到 ， 就 在 微软 忙 着 布局 “ 人机 交互 平台 ” 时 ， 正 “ 闭门思过 ” 的 Tay 竟 意外 “ 出逃 ” 。 
按 微软 的 说法 ， 他们 在 3 月 30 日 的 测试 中 “ 意外 短暂 启动 ” 了 Tay 。 
这 一 次 ， Tay 虽然 表现 得 不 像 先前 那样 嚣张 过分 ， 但 仍 口 无 遮拦 ， 甚至 声称 自己 在 警察 面前 “ 嗑 药 ” 。 
关注 Tay 账号 的 记者 ， 也 在 她 “ 出逃 ” 期间 不断 收到 其 重复 发布 的 “ 无厘头 ” 推 文 。 
很快 ， Tay 又 被 关 了 “ 禁闭 ” ， 进入 “ 被 保护 ” 状态 。 
被迫 下线 前 ， Tay 已 向 超过 21 万 粉丝 发出 超过 9.5 万条 推 文 。 
理论 上 ， 与 人类 交流 越多 ， 具有 极 强 学习能力 的 机器人 就 会 变得 越 聪明 ， 在 与 人类 个体 交流 时 也 会 越 有 针对性 。 
而 这 也 正是 微软 设计 Tay 的 初衷 ： 通过 每 一 次 与 人类 的 交流 ， 让 机器学习 “ 做人 ” ， 并 帮助 其 创造者 改进 人工智能 领域 的 研究 。 
但 显然 ， Tay 太 容易 “ 学 坏 ” 。 
由于 不少 人 在 互联网 世界 中 表现 得 不负 责任 ， Tay 会 不可避免 地 接触 到 大量 “ 疯狂 语言 ” 。 
而 这 类 对话 型 人工智能 技术 ， 正是 以 机器学习 为 基础 。 
因此 即使 微软 希望 “ 用 技术 展现 人性 最好 的 一面 ， 而 非 人性 的 阴暗面 ” ， 但 Tay 在 学习 过程 中 仍 会 提高 这些 语言 的 优先级 ， 并 在 对话 中 积极 使用 这些 词语 。 
事实上 ， Tay 并非 唯一 被 “ 玩 坏 ” 了 的 机器 ， 微软 也 不是 唯一 惹 上 类似 麻烦 的 公司 ― ― 基于 人工智能 图像 识别 技术 的 谷歌 照片 应用程序 ， 就 曾将 一对 黑人 夫妇 识别 为 大猩猩 ， 这 让 谷歌 “ 震惊 ” 。 
互联网 也 不是 唯一 会 让 机器 “ 发疯 ” 的 领域 ， Tay 此次 “ 出逃 ” 前 几 天 ， 有 黑客 已 证明 物联网 也 可以 被 “ 玩 坏 ” 。 
理想 与 现实 的 差距 ， 引发 许多 讨论 ： 人工智能 研发 公司 是否 应 在 真实 世界 “ 任性 ” 开展 实验 ？ 
人工智能 的 研发 是否 应从 一 开始 就 设置 伦理 边界 ？ 
有 一 点 可以 肯定 ， 让 机器 在 互联 网上 学习 “ 做人 ” ， 不 加 管制 的 “ 放养 ” 不是 好 办法 。 
从 这个 角度 说 ， 在 人类 正 全方位 迎接 人工智能 的 今天 ， Tay 惹 下 的 麻烦 不啻 为 一记 警钟 。 
( 责编 ： 陈 键 、 毕 磊 ) 推荐 阅读 人民日报 : 为何 " 电 e 宝 " 没有 得到 预期 的 赞扬 ? 　 　 过多 的 同质化 竞争 ， 可能 造成 资源 浪费 。 
推出 一 款 支付 产品 ， 是 为了 方便 用户 ， 而 不是 “ 画地为牢 ” “ 非 我 不可 ” 。 
通过 强行 “ 圈 市场 ” 赢得 用户 数量 的 一时 猛增 ， 绝非 长远 之 计 前 几 日 ， 笔者 见 家中 电表 不停 地 闪烁 红灯 ， 明白 又 该 交电 费 了 。 
与 之前 水电 煤 … 【 详细 】 人民日报 评 个性化 推荐 ： 当心 “ 过滤 泡泡 ” 主宰 了 你 　 　 你 是否 注意 到 ， 使用 互联网 搜索引擎 搜索 同一个 关键词 时 ， 每个 人 得到 的 结果 不尽 相同 ？ 
以 谷歌 为 例 ， 其内 嵌 的 算法 会 根据 用户 所在 的 地区 、 时间 和 先前 活动 记录 等 数据 给出 相应 搜索结果 。 
这种 网络 针对 个人化 搜索 而 提供 筛选 后 结果 的 推荐 算法 ， 也 被 称为 “ 过滤 泡泡 ” … 【 详细 】 Uber 公开 全球 创新 策略 未来 设计师 要 做 创 客 　 　 Uber 美国 总部 全球 产品设计 总监 EthanEismann 人民网 北京 7 月 4 日 电 （ 胡 晓 ） “ 数据 要 用 诗意 的 语言 表达 出来 ” 、 “ 设计师 要 变成 创 客 ” ， 近日 ， 在 由 国际 体验 设计 协会 （ IXDC ） 主办 的 2016 （ 第 七 届 ） 国际 体验 设计 大会 上 ， 来自 微软 、 U … 【 详细 】 中信 国安 斥资 涉足 VR 直播 　 　 资本 推动 下 ， VR 直播 与 体育 之间 的 距离 再度 被 拉近 。 
中信 国安 信息 产业 股份 有限公司 （ 以下简称 “ 中信 国安 ” ） 日前 发布 公告 称 ， 拟 出资 2000 万 美元 ， 通过 下属 子公司 认购 VR 直播 公司 NextVR2 . 27% 的 股权 。 
这 也 意味着 ， 在 中信 国安 涉足 VR 直 … 【 详细 】 北京 ： 多条 地铁线 实现 4G 全 覆盖 　 　 在 地铁 上 看 新闻 、 刷 朋友 圈 时 ， 时好时坏 的 手机 信号 着实 让 人 不 痛快 。 
不过 ， 这 一 现状 将 陆续 得到 改变 。 
昨天 ， 北京市 交通委 官 网 发布 消息 称 ， 为 全面 提升 地铁 民用 通信 信号 质量 ， 更好 地 为 广大 乘客 提供 优质 的 民用 通信 服务 ， 北京 地铁 信息 发展 有限公司 与 北京 移动 、 联 … 【 详细 】 相关 新闻 精彩图集 IT 新闻 精彩图集 视频 新闻 热点 排行 人民网 版权所有 ， 未经 书面 授权 禁止 使用