欢迎来到威客安全请登录免费注册
手机版 微信公众号 收藏|官方客服电话:4006-119-120
企业客户
发布保密众测
让您的产品更安全
销售
发布众测
让安全生意不再难做
白帽子
提交漏洞
获得高额现金奖励
登录威客安全 ×
忘记密码       没有帐号 , 立即注册
专题
安全动态
安全资讯
解决方案
电力行业
汽车行业
金融支付
物联网
会议报道
热点活动
活动预热
会议预告
私家订制
安全新论
安全应用
安全优佳
安全趋势
网络安全
安全政策
漏洞聚焦
AI窃取数据,扎克伯格被逼赴美国国会尴尬听证
草莓圣代2018-04-12 14:52人评论0人阅读2825

AI窃取数据,扎克伯格被逼赴美国国会尴尬听证

Facebook数据事件自曝光以来,一石激起千层浪。社交网络巨头Facebook、数据分析公司剑桥分析、美国总统特朗普、被指操纵美国大选的俄国、还有深陷隐私泄露危机的美国民众……企业、政府和民众乱成一锅粥,可以说很有“棱镜事件”前夕,大厦将倾的即视感了。

事件不断发酵,这下美国政府终于坐不住了,开始召扎克伯格参加美国国会听证会。

而扎克伯格,也要就Facebook用户数据泄露一事接受议员连续两天的“庭审”。

国会听证会上,扎克伯格说了这么尴尬?

“开审”第一天,扎克伯格就面临了连续5个小时的盘问,尖锐提问的接踵而至:

“你有没有考虑过辞职?”

“用户离开平台后数据还会保存多久?”

“是不是得给你钱,才能保住我自己的信息?”

“你们在用手机麦克风监听用户?”

全场灯光仿佛都打在扎克伯格身上,他穿着正装,一遍又一遍尝试用语言化解Facebook史上最大的危机。

“我不知道。”

“这个问题很难回答。”

“对不起。”

“靠AI审核内容,还得5-10年”

刚刚结束的听证会上,双方针锋相对。而对于这些尖锐的问题,来看看在国会面前,扎克伯格到底表了啥态。

首先,对于剑桥操纵美国大选这一严重问题。扎克伯格洋洋洒洒说了很多,但总结起来就是几句话:Facebook没有因为剑桥分析事件开除任何员工,所有的问题扎克伯格自己承担。当然,扎克伯格本人也并不会辞职。

另外,对于用户极为关心隐私问题,以及Facebook是否将数据卖给了广告主。扎克伯格依旧是老态度,我们并没有不经用户同意收集他们的数据,我们也没有把数据卖给广告主,是广告主通过软件自己读取并推送广告的。这是一种广告投放策略。

而当议员质疑道,“昨天我在Facebook上跟朋友聊天时,提到喜欢某种吃巧克力,接着突然我开始收到各种巧克力的广告。是不是得给你钱,才能保住我自己的信息?”时,扎克伯格也表示,会推出屏蔽广告的付费版本Facebook。言下之意,就是要保护自己的信息,不受广告打扰,你还是要付费。

对于如何用AI来改善内容审核,扎克伯格自己也承认,现在这种方法还不可靠:尽管Facebook已经开发了可以识别仇恨言论的AI,但是目前错误率实在是太高了。

想要依靠AI审核内容,可能“还需要5-10年”。

在Facebook数据泄露中,AI到底扮演了什么角色

大幕拉开,这是扎克伯格又一次在公开场合谈起数据泄露。而说起数据泄露的原委,我们还要回到原点,看看“被指责”的AI,在Facebook数据泄露中,到底扮演了什么角色。

在国会演讲中,扎克伯格又讲了一遍这个故事:

“2007年,我们推出了Facebook平台,当时的愿景就是打造更多社交化的应用。你们的日历应当能够显示出你们好友的生日、你们的地图应当能够显示出你们好友生活的地理位置、你们的地址薄应当能够显示出他们的照片。为此,我们让用户登录应用并分享他们好友的身份以及有关他们自己的一些信息。”

而2013年,剑桥大学研究员亚历山大-科根创建了一款个人性格测试应用。这款应用后来被大约30多万同意分享他们Facebook信息以及部分好友(这些好友的隐私设置允许分享)信息的用户下载安装。从我们平台当时工作的方式来看,这就意味着科根能够获取用户的一些信息以及用户数千万好友的信息……”

扎克伯格的说法很美好:为了提供更好的社交应用Facebook而读取用户信息,而应用研究人员,为了服务“共享”了这些信息。但不幸的是,剑桥大学教授科根将数据转手给了第三方:SCL和剑桥分析公司。

剑桥分析公司用这些数据,搭建起了一个可以剖析美国选民的数据模型,并且针对性地推送千人千面的个性化政治广告——特朗普的数据运营团队,将此用到了2016年的大选中。

此外,剑桥分析公司的数据模型,也被用于拆台——通过自动化机器人进行反希拉里宣传。光在传播选举信息方面,特朗普的自动化机器人实现的信息量,就五倍于希拉里·克林顿。

并且,算法和数据库一起构成了强大的政治工具,这个工具能够在大选中尽可能找出中间选民,并制造更多的“共鸣信息”成功打动他们。

在卫报报道中,这个数据库中包含11个州的200万个匹配文件,所谓匹配,就是个人信息与选举登记簿匹配。而整体5000万的数据档案,占据Facebook北美活跃用户的1/3,其中差不多1/4都可能是美国大选中的选民。

而不得不说的是,数据挖掘和算法模型的构建方法,都很人工智能。

实际上AI能做的还不只是这些,尤其在社交环境中,人们更可能会被控制:

AI还可以进行身份强化,只让你看到你想看到的;消极的社交强化,将你的帖子呈现给那些更易持有反对观点的人,从而纠正你的观点;积极的社交强化:将你的帖子呈现给那些更易持有赞赏观点的人,从而强化你的观点;取样偏差:向你呈现你朋友(更可能是媒体)发布的希望你持有的观点的帖子……

庆幸的是,这些AI带来的问题我们还没有大规模看到。

而对于AI会带来的种种问题,Facebook并非完全不知。

在今日的演讲中,扎克伯格说道,Facebook在2014年发现了科根的应用在利用AI窃取信息,并对平台进行了调整。2015年,Facebook从英国《卫报》的记者那儿了解到,科根已经将其应用中的数据分享给剑桥分析机构。Facebook随后禁用了科根的应用,并要求其删除数据。但直到上个月才获悉,剑桥分析公司并没有做到。

实际上,Facebook虽然并非故意纵容,但肯定也不可能一直“纯良的”后知后觉。


如果没有AI,Facebook就不可能存在

如此看来,AI的数据挖掘和算法控制确实十分可怕。但虽然“深受其害”,Facebook却也是这一技术的资深信仰者。

Facebook的应用机器学习(AML)团队负责人Joaquin Candela曾经表示:“人们使用Facebook全系列产品的体验主要取决于人工智能技术,如今,如果没有人工智能,Facebook就不可能存在。”

在扎克伯格眼中,拥有15.5亿用户的Facebook,拥有全球最大的跨文化、多模态、结构化、有组织的人们互动的数据库,所以必须更有效率地将研究社区中讨论过的东西变成更加普及和商品化的技术,竭尽所能来用AI改善生活。

在Facebook的AI战略中,AI驱动的照片滤镜正帮助它击败Snapchat的挑战。Facebook的AI能够识别照片里的东西,还能决定推送哪些内容,这可以为它提供用户体验,增加用户回购率。而且类似的技术还被用于监控骚扰、恐怖和色情内容,并将这些内容标记下来再进行清除。

而在Facebook的AI战略中,“利用AI来预测用户自杀倾向”就是其中被广泛宣传的一项。

Facebook表示借助人工智能技术可以充分利用图形识别来扫描Facebook帖子和在线视频,及时联系相关人员并与当地紧急热线组织取得联系。

Facebook首席执行官扎克伯格表示:“人类总是畏惧人工智能在未来会失控而伤害人类,但同时我们也应该看到在另一面人工智能真的能够挽救人类的生命。”

另外,扎克伯格也相信,虽然现在还不能完全实现,但用AI识别Facebook平台上的仇视言论,也是其未来重点发展的方向。

但发力AI,如今却被AI窃取数据打了自己的脸,扎克伯格想必也十分尴尬。Facebook在数据的挖掘和对用户隐私的保护间显然做得不够好,这也让其之前画下的AI大饼,看起来并没有那么乐观。

不过在今日演讲中,扎克伯格虽然并没有更有力的举措,但也做出了一些承诺。

扎克伯格提出Facebook要大幅限制开发者能够获取的数据数量,积极审查平台上的各种应用。如果用户在三个月之内不再使用开发者的应用,删除开发者的这些应用连接方式、减少用户给应用提供的数据量、要求开发者不仅要获得授权,而且还要签署合约等,并且关闭虚假账号、加强对政治广告的管理等。

如此看来,一面处理AI留下的烂摊子、一面继续发力AI ,在用户数据保护与读取、第三方应用及研究型应用中找到平衡,应该会是Facebook未来更要努力的方向。

作为一把锋利的刀,AI被“谁”握着成了重要的问题。AI带来的数据泄露问题和数据挖掘应用开发,可以说就如同硬币的两面。而现实会将技术转到哪一面,希望对于以Facebook为代表的公司来说,不仅仅是一个赌局。

文章来源:亿欧网,转载请注明来自
本文标签:安全趋势安全动态网络安全

分享到:
文章评论
登录后参与评论
评论 ( 0 )
京ICP备案14036275号 Copyright ©2014 jinlongSec All Rights Reserved 建议使用IE9以上浏览器浏览