中青 报 客户端 新闻 排行榜 热点 新闻 热门 图片 中青在线 版权 与 免责 声明 中国青年报 手机 版 中国青年报 手机 版 二维码 中国青年报 - 中青在线 官方 微信 中国青年报 - 中青在线 官方 微信 平台 2017 年 06 月 05 日 星期一 中青在线 中青 报系 随笔 如何 看待 霍金 对 人工智能 的 警告 黄 志 澄 　 　 来源 ： 中国青年报 　 　 （ 2017 年 06 月 05 日 02 版 ） 今年 3 月 8 日 ， 著名 物理学家 史蒂芬 · 霍金 向 英国 《 独立报 》 表示 ， 人类 必须 建立 有效 机制 尽早 识别 威胁 所在 ， 防止 新 科技 （ 人工智能 ） 对 人类 带来 的 威胁 进一步 上升 。 
霍金 警告 ， 未来 人工智能 可能 会 以 生化 战争 或 核子 战争 的 方式 摧毁 人类 。 
其实 ， 早 在 2015 年 9 月 ， 霍金 就 发出 过 类似 的 警告 ： 聪明 能干 的 人工智能 会 让 人类 灭亡 。 
霍金 表示 ： 一个 超级 聪明 的 人工智能 可以 非常 好 地 实现 它 的 目标 ， 如果 这些 目标 没有 与 我们 人类 一致 ， 我们 人类 就 麻烦 了 。 
我们 如何 来 对待 霍金 的 警告 呢 ？ 
首先 ， 霍金 本人 也 是 人工智能 技术 的 支持者 ， 霍金 认为 ， 如今 人工智能 似乎 已经 渗透 到 各个 领域 。 
人工智能 甚至 可 帮助 根除 长期 存在 的 社会 挑战 ， 比如 疾病 和 贫困 等 。 
人工智能 技术 是 当今 新技术 革命 的 领头羊 。 
事实上 ， 人工智能 技术 的 发展 已 历经 三 次 浪潮 。 
第一次 浪潮 以 “ 手工 知识 ” 为 特征 ， 典型 范 例如 智能 手机 应用程序 等 。 
第 二 次 浪潮 以 “ 统计 学习 ” 为 特征 ， 典型 范 例如 人工 神经网络 系统 ， 并 在 无人驾驶 汽车 等 领域 取得 进展 。 
虽然 这些 人工智能 技术 ， 对 明确 的 问题 有 较 强 的 推理 和 判断 能力 ， 但 不 具备 学习能力 。 
第 三 次 浪潮 则 以 “ 适应 环境 ” 为 特征 ， 人工智能 能够 理解 环境 并 发现 逻辑 规则 ， 从而 进行 自我 训练 并 建立 自身 的 决策 流程 。 
今年 年初 ， 谷歌 AlphaGO 的 升级版 Master 以 60 ∶ 0 的 战绩 ， 击溃 当世 所有 围棋 顶级 高手 ； 就 在 5 月 25 日 ， AlphaGO 又 接连 两 局 击败 中国 围棋 职业 九段 棋手 柯 洁 ； 我 以为 ， 这些 都 是 人工智能 第 三 次 浪潮 的 标志 。 
其次 ， 人工智能 技术 也 是 一把 双刃剑 。 
一方面 ， 借助 人工智能 技术 实现 自动化 ， 将 极大 提高 生产率 ， 节省 劳动 成本 ； 通过 优化 行业 现有产品 和 服务 ， 开拓 更 广阔 的 市场 空间 。 
正 由于 人工智能 对 社会经济 无可替代 的 重要 推动 作用 ， 在 我国 两会 上 已 将 人工智能 写 进 了 政府 工作报告 。 
另一方面 ， 人工智能 技术 对 社会 也 带来 了 近期 和 远期 的 风险 。 
在 不远 的 将来 ， 那些 重复 、 耗时 、 乏味 的 工作 ； 在 快速 变化 的 复杂 环境 中 进行 的 工作 以及 超出 人类 极限 的 工作 ， 都 有 可能 被 人工智能 系统 所 代替 ， 从而 冲击 劳动力市场 。 
可以 预测 ， 由于 人工智能 的 发展 ， 多数 人 的 智能 将 低于 或 接近 人工智能 的 水平 ， 如果 没有 政策 的 有效 控制 ， 财富 就 会 集中 到 少数 智能 超过 人工智能 的 人 手中 ， 这 将 进一步 扩大 社会 的 贫富 差别 ， 引发 社会 的 撕裂 。 
至于 说 到 霍金 警告 的 人工智能 引发 的 人类 生存 风险 ， 即 人工智能 将来 会 从 整体 上 超越 人类 智能 ， 目前 对此 在 认识 上 还有 分歧 。 
许多 自然科学家 认为 ， 目前 人工智能 离 上述 水平 还 很 远 很 远 ， 其 危险 远 不足 虑 ； 而 某些 社会科学家 却 有 担忧 ， 认为 随着 技术 变革 的 深入 ， 人工智能 所 引发 的 链式反应 ， 就 会 出现 无法 控制 的 局面 。 
上述 认识 的 差异 ， 正好 体现 了 人类 对 智能 认识 的 多样性 。 
从 这个 角度 看 ， 科学家 全面 认识 人类 智能 ， 并将 其 复现 ， 只是 时间 问题 。 
鉴于 人工智能 有 可能 超越 人类 智能 ， 以及 由此 产生 十分 严重 的 后果 ， 再 加上 科学技术 发展 的 内在 不确定性 ， 就 充分 说明 了 研究 人工智能 安全 问题 的 必要性 。 
早 在 1950 年 出版 的 美国 著名 科幻 小说家 艾萨克 · 阿西莫夫 撰写 的 《 我 ， 机器人 》 小说 中 ， 就 提出 了 著名 的 “ 机器人 三大 定律 ” ： 第 一 定律 ， 机器人 不得 伤害 人类 个体 ， 或者 目睹 人类 个体 将 遭受 危险 而 袖手旁观 ； 第 二 定律 ， 机器人 必须 服从 人 给予 它 的 命令 ， 当 该 命令 与 第 一 定律 冲突 时 例外 ； 第 三 定律 ， 机器人 在 不 违反 第 一 、 第 二 定律 的 情况 下 要 尽可能 保护 自己 的 生存 。 
此后 ， 这 “ 三大 定律 ” 不断 激发 出 对于 人工智能 安全性 的 新 思考 。 
由于 人工智能 最终 必将 会 具备 自主 意识 ， 到 那时 人类 与 人工智能 系统 之间 的 关系 ， 必须 服从 普 适 、 可靠 的 准则 。 
特别 是在 军事 领域 要 更加 小心 ， 否则 极 有 可能 出现 科幻电影 中 描述 的 人机 大战 的 场景 。 
因此 ， 我们 在 发展 人工智能 系统 的 同时 ， 还要 确保 其 在 预先 制定 的 相关 准则 下 进行 工作 ， 以 防止 其 出现 越 规 行为 。 
黄 志 澄 　 来源 ： 中国青年报 　 （ 2017 年 06 月 05 日 02 版 ） 版权 声明 ： 凡 本 网 文章 下 标注 有 版权 声明 的 均 为 中青在线 合法 拥有 版权 或 有权 使用 的 作品 ， 未经 本 网 授权 不得 使用 。 
违者 本 网 将 依法 追究 法律责任 。 
如 需 授权 ， 点击 今年 3 月 8 日 ， 著名 物理学家 史蒂芬 · 霍金 向 英国 《 独立报 》 表示 ， 人类 必须 建立 有效 机制 尽早 识别 威胁 所在 ， 防止 新 科技 （ 人工智能 ） 对 人类 带来 的 威胁 进一步 上升 。 
霍金 警告 ， 未来 人工智能 可能 会 以 生化 战争 或 核子 战争 的 方式 摧毁 人类 。 
其实 ， 早 在 2015 年 9 月 ， 霍金 就 发出 过 类似 的 警告 ： 聪明 能干 的 人工智能 会 让 人类 灭亡 。 
霍金 表示 ： 一个 超级 聪明 的 人工智能 可以 非常 好 地 实现 它 的 目标 ， 如果 这些 目标 没有 与 我们 人类 一致 ， 我们 人类 就 麻烦 了 。 
我们 如何 来 对待 霍金 的 警告 呢 ？ 
首先 ， 霍金 本人 也 是 人工智能 技术 的 支持者 ， 霍金 认为 ， 如今 人工智能 似乎 已经 渗透 到 各个 领域 。 
人工智能 甚至 可 帮助 根除 长期 存在 的 社会 挑战 ， 比如 疾病 和 贫困 等 。 
人工智能 技术 是 当今 新技术 革命 的 领头羊 。 
事实上 ， 人工智能 技术 的 发展 已 历经 三 次 浪潮 。 
第一次 浪潮 以 “ 手工 知识 ” 为 特征 ， 典型 范 例如 智能 手机 应用程序 等 。 
第 二 次 浪潮 以 “ 统计 学习 ” 为 特征 ， 典型 范 例如 人工 神经网络 系统 ， 并 在 无人驾驶 汽车 等 领域 取得 进展 。 
虽然 这些 人工智能 技术 ， 对 明确 的 问题 有 较 强 的 推理 和 判断 能力 ， 但 不 具备 学习能力 。 
第 三 次 浪潮 则 以 “ 适应 环境 ” 为 特征 ， 人工智能 能够 理解 环境 并 发现 逻辑 规则 ， 从而 进行 自我 训练 并 建立 自身 的 决策 流程 。 
今年 年初 ， 谷歌 AlphaGO 的 升级版 Master 以 60 ∶ 0 的 战绩 ， 击溃 当世 所有 围棋 顶级 高手 ； 就 在 5 月 25 日 ， AlphaGO 又 接连 两 局 击败 中国 围棋 职业 九段 棋手 柯 洁 ； 我 以为 ， 这些 都 是 人工智能 第 三 次 浪潮 的 标志 。 
其次 ， 人工智能 技术 也 是 一把 双刃剑 。 
一方面 ， 借助 人工智能 技术 实现 自动化 ， 将 极大 提高 生产率 ， 节省 劳动 成本 ； 通过 优化 行业 现有产品 和 服务 ， 开拓 更 广阔 的 市场 空间 。 
正 由于 人工智能 对 社会经济 无可替代 的 重要 推动 作用 ， 在 我国 两会 上 已 将 人工智能 写 进 了 政府 工作报告 。 
另一方面 ， 人工智能 技术 对 社会 也 带来 了 近期 和 远期 的 风险 。 
在 不远 的 将来 ， 那些 重复 、 耗时 、 乏味 的 工作 ； 在 快速 变化 的 复杂 环境 中 进行 的 工作 以及 超出 人类 极限 的 工作 ， 都 有 可能 被 人工智能 系统 所 代替 ， 从而 冲击 劳动力市场 。 
可以 预测 ， 由于 人工智能 的 发展 ， 多数 人 的 智能 将 低于 或 接近 人工智能 的 水平 ， 如果 没有 政策 的 有效 控制 ， 财富 就 会 集中 到 少数 智能 超过 人工智能 的 人 手中 ， 这 将 进一步 扩大 社会 的 贫富 差别 ， 引发 社会 的 撕裂 。 
至于 说 到 霍金 警告 的 人工智能 引发 的 人类 生存 风险 ， 即 人工智能 将来 会 从 整体 上 超越 人类 智能 ， 目前 对此 在 认识 上 还有 分歧 。 
许多 自然科学家 认为 ， 目前 人工智能 离 上述 水平 还 很 远 很 远 ， 其 危险 远 不足 虑 ； 而 某些 社会科学家 却 有 担忧 ， 认为 随着 技术 变革 的 深入 ， 人工智能 所 引发 的 链式反应 ， 就 会 出现 无法 控制 的 局面 。 
上述 认识 的 差异 ， 正好 体现 了 人类 对 智能 认识 的 多样性 。 
从 这个 角度 看 ， 科学家 全面 认识 人类 智能 ， 并将 其 复现 ， 只是 时间 问题 。 
鉴于 人工智能 有 可能 超越 人类 智能 ， 以及 由此 产生 十分 严重 的 后果 ， 再 加上 科学技术 发展 的 内在 不确定性 ， 就 充分 说明 了 研究 人工智能 安全 问题 的 必要性 。 
早 在 1950 年 出版 的 美国 著名 科幻 小说家 艾萨克 · 阿西莫夫 撰写 的 《 我 ， 机器人 》 小说 中 ， 就 提出 了 著名 的 “ 机器人 三大 定律 ” ： 第 一 定律 ， 机器人 不得 伤害 人类 个体 ， 或者 目睹 人类 个体 将 遭受 危险 而 袖手旁观 ； 第 二 定律 ， 机器人 必须 服从 人 给予 它 的 命令 ， 当 该 命令 与 第 一 定律 冲突 时 例外 ； 第 三 定律 ， 机器人 在 不 违反 第 一 、 第 二 定律 的 情况 下 要 尽可能 保护 自己 的 生存 。 
此后 ， 这 “ 三大 定律 ” 不断 激发 出 对于 人工智能 安全性 的 新 思考 。 
由于 人工智能 最终 必将 会 具备 自主 意识 ， 到 那时 人类 与 人工智能 系统 之间 的 关系 ， 必须 服从 普 适 、 可靠 的 准则 。 
特别 是在 军事 领域 要 更加 小心 ， 否则 极 有 可能 出现 科幻电影 中 描述 的 人机 大战 的 场景 。 
因此 ， 我们 在 发展 人工智能 系统 的 同时 ， 还要 确保 其 在 预先 制定 的 相关 准则 下 进行 工作 ， 以 防止 其 出现 越 规 行为 。 
中国青年报 青年参考 青年时讯 青年 商旅 报 日 一 二 三 四 五 六 关闭 “ 青年 发展规划 ” 资源 意义 解读 学界 大 咖 纵论 中国经济 热点话题 本土 口述 史学 发展 的 美国 镜鉴 如何 看待 霍金 对 人工智能 的 警告