[INS: :INS] * 新浪首页 * 新闻 * 财经 * 股票 * 科技 * 房产 * 汽车 * 体育 * 博客 * 更多 * 娱乐教育时尚女性星座健康 * 图片历史视频收藏育儿读书 * 专栏佛学游戏旅游邮箱导航 移动客户端 * 新浪微博 * 新浪新闻 * 新浪体育 * 新浪娱乐 * 新浪财经 * 新浪视频 * 新浪游戏 * 天气通 注册 [thumb_default.png] 登录 [INS: :INS] 新浪财经 产经 >正文 [行_] 简称/代码/拼音 Submit 人工智能学说人话：虚假网络点评人类也分辨不出来 2017年09月06日03:33 第一财经日报 [DEL: :DEL] 微博 [DEL: :DEL] 微信 [DEL: :DEL] QQ空间 [DEL: :DEL] 添加喜爱 [DEL: :DEL] [INS: :INS] [INS: :INS] [INS: :INS] 　　人工智能学“说人话” 网络“水军”要下岗了 　　“高段位”的人工智能点评是逐字生成的，而不是简单地抄袭，或者说替换已有点评中的用词 　　钱童心 　　“眼见为实”？这一人们辨别真伪的通用法则，可能因为人工智能（AI）的到来而失效。 　　例如，充斥在互联网上的人类“水军”未来可能要被人工智能取代了。芝加哥大学计算机科学教授赵燕斌团队发现，人工智能可以被用来生成复杂的点评信息 。这些虚假的点评不仅机器无法检测出来，就连人类也分辨不出来。 　　科技与人性博弈的“黑镜”正在向人类扑面而来，人工智能可能是最锋利的双刃剑。 　　在上周末，俄罗斯总统普京在一场演讲中罕见地评论人工智能。他说，“谁主导人工智能领域，谁就将成为世界的统治者”。“钢铁侠”埃隆·马斯克于9月 4日也再次发声称，各国都在竭力争取AI竞争的优势，才是最有可能导致第三次世界大战的原因。 　　点评里隐藏的“玄机” 　　近期一则“人工智能已经学会自动编写虚假点评”的消息广为流传。“我喜欢这个地方。我跟我哥一起去的，我们点了素食意大利面，很好吃。啤酒不错，服 务也很棒。推荐这个地方，是个吃早餐的好去处。地儿小但是买卖大”。这个如假包换由AI操刀的点评，足以骗倒很多读者。 　　消息源于赵燕斌等发表的一篇题为《在线点评系统中的自动众包攻击和防御》的论文。在研究中，赵燕斌团队发现，人工智能可以被用来生成复杂的点评信息 。这些虚假的点评不仅机器无法检测出来，就连人类读者也分辨不出来。 　　这篇论文今年晚些时候会在计算机安全顶级会议——ACMCCS（美国计算机协会计算机与通信安全会议）上展示。早在2014年，赵燕斌团队还发表了 题为《恶意众包工作者的实际对抗性检测》的论文，分析了怎样用人工智能检测社交网络中的人类“水军”。 　　赵燕斌接受了第一财经记者的采访。他的实验室一直在从事和网络安全相关的课题。最新的研究历时一年左右，是过去研究的延伸。“人工智能的技术很先进 ，好处也显而易见，但是我们的目的是提前预测出人工智能对于社会潜在的威胁，因此当这些威胁真正来临的时候，人们不会猝不及防。”赵燕斌对第一财经记 表示。 　　他进一步解释道，在获得了美国的“大众点评网”Yelp的公开用户评论数据后，团队就开始做实验。具体而言，是从亚马逊上雇了600位用户，让他们 对真人和人工智能编写的点评进行辨别。 　　“结果是几乎没有人看得出来哪些是机器撰写的点评。”赵燕斌对第一财经记者说道，“更让我们吃惊的是，用户不仅分辨不出真假，而且还觉得机器撰写的 这些点评对他们很有帮助。” 　　他表示：“目前这种技术仍较新，还无法做到十分精准。比如已经在微博或者Twitter上出现的有些基于简单模板产生的评论。” 　　赵燕斌认为，虽然他们无从得知是否已经有一些公司试图大规模利用人工智能的编程软件撰写虚假评论，但是这无疑会成为不法分子未来的一个“必要选项” ，因为人工智能相比人类水军的优势非常明显。 　　首先，人类“水军”发送虚假评论的时间控制不了，因为“水军”一见了工作都上去抢，所以很容易在被攻击的网页上发现异常，而人工智能发送消息的时间 是可以控制的。其次，雇佣人类“水军”撰写评论的成本在增长，而人工智能可以反复频繁地被使用。 　　让人揪心的是，反抄袭软件也对这些虚假点评无能为力，因为这些“高段位”的AI点评是逐字生成的，而不是简单地替换已有点评中的用词。如果使用反抄 袭软件检测，不但很难检测出虚假点评，而且会“误伤”一大批真实的点评。 　　“社交网站已经开始利用人工智能技术发布一些虚假的消息或评论。”人工智能初创公司WorkFusion创始人、CEO扬格列维奇（MaxYank elevich）告诉第一财经记者，“这些消息只有通过人工智能的手段才能加以制止。这不仅仅需要政府的努力，更需要科技公司和整个社会的努力。” 　　好消息是，人工智能有可能识别出机器中的“水军”。赵燕斌团队研究发现，用计算机去分析字符的分布等特征，他们就会发现真假点评之间存在着细微的差 异。 　　假点评是从真实点评里学出来的，在这个过程中，难免会有信息流失。假点评注重的是流畅、可信，但像字符分布这种平时没人关注的特征，就做得不那么好 了。 　　当然，攻击者也可以骗过检测。换好一点的硬件，做更复杂一点的神经网络就行。但这种检测至少提高了攻击的门槛，为攻击者设置了障碍。赵燕斌对第一财 经记者表示：“这就是一种胜利，所有的安全工作都是这样，提高攻击的门槛。” 　　不过，赵燕斌强调，虽然越来越多的研究致力于防御“假新闻”，但是并不是一切问题都能够用技术的手段来解决的。“我们需要更多地和社会学科学家以及 心理学家合作，寻求共同的解决方案。”赵燕斌告诉第一财经记者。 　　福音还是灾难？ 　　赵燕斌还提醒道，“更值得注意的是，一些攻击当然是出于商业营利的目的，但是也不排除一些组织甚至政府机构利用虚假评论当做宣传的武器，这一旦发生 ，会很可怕。” 　　他认为，人工智能技术如果被滥用，对整个社会是一个巨大的威胁，不但会让依靠点评信息的用户失望，而且会以假乱真，破坏社会秩序，这样的后果更为严 重。 　　赵燕斌给记者举例说道，在去年的CCS大会上，卡内基梅隆大学的研究人员就展示了一个场景：只要人们戴上一副经过特殊打造的眼镜，人工智能对于人脸 的辨认就会失败，比如一个白人女性可以被认为是一个黑人男性。 　　事实上，随着AI和计算机图像合成技术的发展，未来任何人都可以制造以假乱真的新闻、图片或者视频、音频。专家表示，这令信息“武器化”大战一触即 发。 　　今年7月，华盛顿大学的研究人员就曾利用人工智能制作了一个关于美国前总统奥巴马演讲的假视频，该视频是基于对奥巴马过去几十个小时演讲的视频分析 合成的，图像和声音都能达到以假乱真的水平。 　　更可怕的是，人工智能已经可以做到“基于事实的胡编乱造”，这些内容在脸书（Facebook）和其他社交网站上广泛地流传开，很少有人会质疑它们 的真伪。就在上个月底，Facebook开始正式出手打击假新闻：将会禁止散布假新闻的主页在其网站上投放广告。 　　美国政府也开始加大对研发的资助来打击“假新闻”。9月初，宾夕法尼亚州的两名教授获得了美国国家自然科学基金会（NSF）资助的30万美元资金， 以开发侦测“假新闻”的数字化设备。 　　近日，杭州的某著名连锁快餐门店率先推出了“刷脸支付”服务，支付过程无需手机，只需由3D摄像头对准顾客的面部进行扫描就能验证身份、点餐付款。 　　但在赵燕斌看来，这种人脸支付的方式很容易受到攻击。“对抗这种攻击，不仅仅要大数据分析，还可能要用到计算机视觉。跨学科的融合是未来研究的趋势 。”赵燕斌对第一财经记者表示。 进入【新浪财经股吧】讨论 责任编辑：李坚 SF163 文章关键词： 人工智能 网络水军 虚假点评 我要反馈 保存网页 热门推荐 添加喜爱 打印 增大字体 减小字体 [INS: :INS] [INS: :INS] 相关阅读 新浪理财师推荐 观摩专业理财师操盘 跟买跟卖赚大钱>> 更多理财师 IFRAME: http://finance.sina.com.cn/iframe/1008/2015-07-02/8.html?from=new_conte nt_4pic [INS: :INS] 聚焦 [INS: :INS] [INS: :INS] [INS: :INS] [INS: :INS] [INS: :INS] 应用中心 新浪公益 新浪游戏 互动活动 热点推荐 * 一生良师益友：海词词典 * 保护隐私与安全：应用锁 * 股民的第一选择：同花顺 * 定位家人的位置：跟屁虫 * 私人大游艇：快来造船吧 * 一个人狩猎：狙击手猎鹿 * 和敌人战斗：萌军飞行队 * 恐怖的对决：CS反恐精英 * 路程全掌握：凯立德导航 * 高清图片分享：奇思壁纸 * 捕捉精彩瞬间：特效相机 * 有热度有态度：人民日报 * 飞越天际：飞天滑板高手 * 等你征服：叛乱武士之战 * 魔幻旅：小小魔兽大战争 * 斗魂：超合体魔术机器人 * 微博益起来感恩行动 * 2013捐一元爱心送营养 * 2013壹基金公益映像节 * 水立方中国公益平台 * 阿里巴巴公益广告大赛 * 思源方舟防灾减灾 * 2013爱佑慈善晚宴 * 佳能影像公益 * 贫困儿童图书漂流箱项目 * 福特汽车环保奖 * 女童权益保护全球行动 * 奔驰自然保护项目 * 佳能希望小学色彩教室 * 卡夫希望厨房 * 妇基会母亲包邮活动 * 微博-达人通 * 《九阴真经》唯我独尊礼 * 《梦幻西游手游版》夏日情谊卡 * 《星际战甲》新浪高级特权礼 * 《问道》天书奇谭至尊礼 * 《新倩女幽魂》新浪特权礼 * 《热血传奇》15周年专区礼 * 《大话西游2》人气公测礼 * 《倩女幽魂2》新浪1888元白金卡 * 《第三把剑》新浪特权皇钻礼 * 《奇迹MU》 新浪独家礼 * 《龙门虎将》新浪定制礼 * 《虎豹骑》二次测试码 * 角色扮演类新手卡 * 射击类游戏新手卡 * 动作类游戏新手卡 * 策略类游戏新手卡 * 新浪专栏：读名家知天下 * 想成为专栏作家？戳这里 * 强势围观！政务微博大事件！ * 快来看！湖南微博有大事！ * 最火博文 大家都在看 * 一大波台湾美食正在向你逼近！ * [财经]股市行情查询 * [财经]理财计算器 * [科技]数码产品库 * [视频]最热影视大片 * [旅游]国内外景点查询 * [育儿]育儿实用工具库 * [汽车]车型查询 * [女性]化妆品产品库 * [星座]星座运势查询 * [娱乐]影讯查询 * [娱乐]电视节目表 * [教育]大学院校查询 * ·城市热点节庆活动 * ·新浪《对话城市》 * ·诚招合作伙伴 * ·新企邮上线更优 IFRAME: http://finance.sina.com.cn/iframe/1008/2015-06-26/5.html?from=new_conte nt_zl [INS: :INS] IFRAME: http://finance.sina.com.cn/iframe/1008/2015-06-24/1.html?from=new_conte nt_tjxw [INS: :INS] [INS: :INS] [INS: :INS] IFRAME: http://finance.sina.com.cn/iframe/1008/2015-07-01/7.html?from=new_conte nt_tjsp [INS: :INS] [INS: :INS] IFRAME: http://finance.sina.com.cn/iframe/1008/2015-06-24/2.html?from=new_conte nt_rdbk [INS: :INS] IFRAME: http://finance.sina.com.cn/iframe/1008/2015-06-25/3.html [INS: :INS] [INS: :INS] [INS: :INS] [INS: :INS] 新浪扶翼 行业专区 close 汪涛 哪些行业能从国企改革中受益 相比宏观层面，国企改革加速对微观层面更为利好。 薛洪言 ICO迎来监管大棒谁最受伤？ 真正受到伤害的永远是怀揣着投机致富梦想的韭菜们。 钱颖一 你要有追随内心和直觉的勇气 相信现在的“点”在未来一定会连起来。 黄志龙 金砖国家深化合作着力点在哪 金钻国家应旗帜鲜明地反对=逆全球化浪潮。 [7sZy-fykpyuf8970847.jpg] 专业鸟笼村1个卖10万 [xex--fykqmrv7141580.jpg] 南京地铁站现超燃情书 [DEL: :DEL] 股市名嘴PK人民“股神”怒揭投资黑幕 [DEL: :DEL] 揭秘《人民的名义》幕后生死劫 [DEL: :DEL] 任志强的选择 [DEL: :DEL] 吴晓波私房话：先富起来的烦恼 [DEL: :DEL] 尴尬！百度总裁当街遭“痛骂” 9月5日 异动个股点评 谨慎拉高的步伐在放缓 环保措施又升级 这行业率先享受红利 沪指目标触及 突破还是调整？ 指数震荡延续 短期回调是介入机会 2017年中国房地产 政策改变市场方向 AI芯片就看这两大方向 牛眼看盘：这些股即将涨停 抓紧进场 广告：冲关成功，机构布局股一览 广告：后市判断现分歧，热度股一览 AI水军汹涌而来，人类水军也要失业了 AI水军汹涌而来，人类水军也要失业了[详细] 2017年09月04日 10:15 AI水军汹涌而来，人类水军也要失业了 写稿机器人、无人驾......人工智能有多强大？ 写稿机器人、无人驾......人工智能有多强大？[详细] 2017年08月01日 20:20 写稿机器人、无人驾......人工智能有多强大？ 你在教育链上鄙视别人孩子，它站在食物链顶端鄙视 你在教育链上鄙视别人孩子，它站在食物链顶端鄙视你[详细] 2017年09月05日 21:30 你在教育链上鄙视别人孩子，它站在食物链顶端鄙视 神学家：人工智能可以成为上帝的替身吗？ 神学家：人工智能可以成为上帝的替身吗？[详细] 2017年09月03日 20:55 神学家：人工智能可以成为上帝的替身吗？ 9天8个板，中科信息究竟是何方妖孽？ 9天8个板，中科信息究竟是何方妖孽？[详细] 2017年08月24日 12:52 9天8个板，中科信息究竟是何方妖孽？ 新浪简介┊About Sina┊广告服务┊联系我们┊招聘信息┊网站律师┊SINA English┊通行证注册┊产品答疑 Copyright ©1996-2017 SINA Corporation, All Rights Reserved 新浪公司 版权所有 Submit 0 [INS: :INS] [INS: :INS]