联系电话:020-28187900

Om Malik:拥有多大的数据 就要尽多大的责任

发表时间:2014-07-10 阅读: 5803


「你们可以设想,在未来的某个时点,我们将可以制造比人类更加善于思考,擅长理论逻辑的机器。」Google 联合创始人 Sergey Brin 在 Khosla Ventures 的创始人 Vinod Khosla 的采访中这样说的。

或许对于一个和他同样聪明的人,一个同样正在研究机器学习、人工智能的人来说来说,这句话再正常不过了:技术必将发展到那个程度,我们终究比不过效率极高,没有情绪影响的机器。

但这句话,对于一个并非来自硅谷的人来说,却意味着机器终将替代他的未来。像他这样的人对于 Google 来说,是「无用」的了。

硅谷的大公司逐渐开始发现它们的命运正在和人类的未来交织胶结在一起:它们所期待的未来和人类期待的未来不一样!而这些公司的态度,通常隐藏在亲和的表皮之下,却充满了机关算计。

硅谷(包括其代表意义,以及实际存在的地点)代表着我们正在努力地「活在未来」——我们努力地思考和构想未来究竟长什么样子,并且通过我们的技术去努力地实现它。这些未来,有时候显得格外美好,让我们对其充满了信心,去拥抱它们;而有的时候,这些未来看起来无比的「反乌托邦」,让人们恐惧、害怕,惊恐其发生会对人类社会造成的灭亡。

恐怖的感觉

Facebook 的「情绪测试」就是反乌托邦式的未来的具象凸显。Sara Watson,一名在哈佛大学博克曼互联网与社会研究中心的学着,在一篇有关于数据和广告的文章中提到了在上世纪 70 年代盛行的「恐怖谷」理论,又名「科技给我们带来的不安」理论。

科技的飞速发展,对于我们来说既熟悉又陌生,而这种感知的交错并行,令人们产生了恐怖的感觉。当我们不足以用所具有的理解能力去理解和分析我们所拥有的数据的时候,这种恐怖的感觉显得格外夸张。

——Sara Watson,Data Doppelgängers and the Uncanny Valley of Personalization, 2014

Facebook 正在通过这些测试来「摆布」我们的情绪,而我所提到的这种恐惧感正在产生——促成恐惧感的,并不一定是这些测试本身,而更有可能在于它们预示的人类未来。


它们预示着什么?

我们的未来将被机器控制。机器可以随意摆布我们的情绪,接管我们的需求和期待。我们害怕对于自己生命的决策权将会被机器夺取,但其实这种事情早就发生了只是我们一直没敢承认而已。

一旦生杀大权被夺取,我们将再也回不到原来的生活。Facebook 的「情绪驱动行为」测试,只是未来生活的惊鸿一瞥。

我们的未来,是一个由数据驱动的,通过算法来维持的未来。在这个未来中,机器将正式接管,帮我们做出我们平常以为是自己做出的决定。

正如我在最近的《快公司》专栏中指出的,新的机械时代已经来临,只是我们还未察觉或没想过去察觉而已。「我们的世界已经不只是人类的世界了。」Quid 的 联合创始人兼 CTO Sean Gourley 如此说道。他认为,我们的「互联世界」(connected word) 正在生产出如此巨量的数据以至于人类的认知能力无法处理,只能依赖机器去做绝大多数的处理工作了。

也就是说,问题的真正核心在于,我们——科技产业的所有从业者——会做什么?我们应该做什么?

从我们获取的原始材料开始:数据——从携带我们的表情、情绪、地理位置信息的成百上千亿张照片,到我们因为人生各种悲欢离合在社交网站发布的状态信息。不要以为你在网上是孤立的,没人在关注你。事实上,你的每一个举动,都被某人转化成为数据,喂食给他们赖以盈利的机器。

你的数据,作价待沽

根据福布斯的透露,即便是一些看起来人畜无害的应用,比如 Waze、Moovit 或 Strava 这类和运动、地理位置有关的,都在向第三方机构出卖我们的活动和行为数据。当然,目前他们并非出售特定的某个人的数据,但谁能肯定地说他们不会在未来精细到对每个人的数据「区别对待」呢?

我不知道,如果我在这里不说的话有多少人知道:我非常惊讶于某些城市的市政管理部门居然会主动将从交通监控摄像头中拍下的照片等数据出售给私营公司(Google),而从未经过听证,更别提全体市民的许可。

让我来扩展一下这种互相出售数据的卑劣行径可能会引发的结果:

Waze 的发言人表示他们的服务能够告诉用户从 A 点到 B 点驾车的速度。如果有一天,他们把这个信息出售给保险公司,用以支持后者的保费上涨呢?

你知道当你注册 Strava 的时候,其实是和他们签订了一个以 80 美分价格出售你一年数据的协议吗?

我想知道,在一个什么样的世界中才会有人允许这种事情未经用户首肯就发生了呢?感谢以 Facebook 为首的公司,现在这种出卖用户数据的行为已经成为了公司的默认模式了:如果你的产品没火,你的公司准备破产了,至少你还可以把仅剩的数据卖给收购收购商。

问题就在这里。我们这些普通人并不真的了解这些正在囤积用户数据的公司,能用这些数据做出什么好的或不好的事情来。来自 Nest、Dropcam、Waze、Android、Google 地图、Gmail 和搜索的数据,太多了。Google 究竟是怎样使用它获取的所有数据的呢?


几周之前,我看到了纽约时报和 Google 联合创始人之一的 Larry Page 的采访文章,当时我一直期待采访者能够深度挖掘一下 Google 究竟在数据隐私上采取一个什么样的姿态,以及他们未来究竟将会怎样使用他们从我们这里获取的数据。毕竟,Google 这样一家互联网入口级大公司对于数据的态度,对于未来人类社会的发展来说太至关重要了。

所以,现实情况就是:你们掌握了这么多关于我的数据,或许我们应该好好谈谈我作为一名合法公民,应该在这些数据上享有的隐私等权利。当然,这并不代表我们应该放弃现在的一切回到茹毛饮血的时代,但至少我们应该坐下来好好讨论一下,所有关于数据、隐私、透明度的问题。

我最近经常因为数据和隐私的问题感到紧张,而当之前 Facebook 发布 Home 的时候这种感觉尤为明显。

不要以为在人山人海中,你的数据或许并没有多大的作用:仔细想,你的 GPS 传感器记录能够帮助别人轻易的定位你的住所、工作地点,你的运动记录能够帮助别人判断你的生活作息。如果这些数据被犯罪分子掌握了呢?你以为你真的是人山人海中的一粒不起眼的沙子吗?

当然,我的种种疑虑,并非代表我不期待由尖端科技打造的美好未来提前来到。我很期待未来的医疗产业能够提前预知用户发病,自动施药;我很期待 Google 的自动驾驶汽车技术能够帮助人类更便捷地在城市中通勤。但令我揪心的问题在于,所有的这些正在发生的事情,倡导它们的人究竟有没有仔细考虑这些事情有可能会对社会造成的冲击?

讨论 Google 和 Facebook 这样的公司手持巨量数据做的事会对社会造成的冲击,具有十分重要且现实的意义。试想,如果这些公司的产品,它们的机器能够影响我们的情绪,未来它们会不会影响我们的行为?会不会影响商业的流程?会不会影响政治的决策?

反正 Facebook 的面部识别系统已经强过 FBI 不知道多少倍了。所以我说的这些事,无论你相信不相信,自己考虑去吧。

自动化的未来

社会从机制化转向自动化,将会导致越来越多、越来越严重的社会关注缺位,和上个世纪初社会从混沌化转向机制化并无不同。那个时候人类没有保护自己的机制,但还好过去了一个世纪,我们学会了怎样面对世界大变革,并且在当中保护自己。

人们看到了 Uber 这样的公司出现,出租车司机、传统行业,甚至是汽车制造公司都开始了对其的抵制。人们以为他们击溃了 Uber 就能够阻止自己或自己所在的公司的命运被 Uber 终结,但实际上这并不是 Uber 一家公司的事——无人驾驶汽车、无人机、城市基建私人承包化等等,都是使整个人类社会转向自动化的驱动力量,而他们所代表的高效率,正是由机器带来。

电脑让越来越多的公司变得效率更高,有人戏言如果你的公司想赚更多钱,那么你应该聘用更少的员工。感谢机器,整个社会的效率都被提高了,但这样真的好吗?


这种(机器的)替代,已经让感受到变化的人体会到了更多的痛苦,特别是越来越多的行业被「破坏性创新」(disrupt)掉,越来越多的工作岗位、工作机会被机器取代,再也不会被分配给越来越多的人口。就像在过去一样,我们总是希望,新的产业能够给我们带来新的工作。但谁知道这样的事儿会否发生呢?我认为,人类的未来必须由科技、商业、社会科学,乃至人性,一同界定,而并非一切服务高效率。

——Irving Wladawsky-Berger, IBM,A Growing Backlash Against the Relentless Advances in Technology?

问题出现了,人性和机器相比起来太低效率了。Google、Facebook 和亚马逊明白这一点,而且他们的效率已经提高到太高了。Facebook 都能够曹总我们的情绪了,谁能说亚马逊在未来不会获得能够预测我们的消费需求的能力呢?

哦,我又想到了那些既微小又强大的呆在用户手机里的,能够随时倾听用户声音指令的芯片。如果未来,这些芯片开始为某些公司监听和监视用户的一言一行呢?关于这些芯片所获取的数据,究竟有没有可执行的隐私权保护法案?如果没有的话,谁又该制订这些法案呢?

MailChimp 的数据工程师 John Foreman 在一篇关于数据和人的关系的文章中指出:「绝大多数人对于他们所产生的数据的价值毫无了解。因此,人们宁愿交出他们宝贵的数据,去换取一些比较起来没有多少价值的东西。」他的文章一语中的,将我们出卖数据的行为描写的淋漓尽致。

数据:在2013年3月的 Gigaom 数据架构大会上,Quid 的 Sean Gourley 预测 Facebook 每年仅需花费 1.2 美元即可产生 6 美元的收入,而人们宁愿为了比一杯星巴克咖啡的价值还要少的回报,去出卖自己的数据。

我们过去的数据背叛了我们在未来的行为。这些掌握了我们的数据的大公司发现,只要他们「念出正确的咒语」,我们就会自己给自己带上锁链,成为他们的数据奴隶。在机器学习的模型之下,人类终将成为机制的客体,机器给我们输入什么,我们就产出什么,一切都是那样的确定。

——John Foreman

道德自律

当大多数科技确实能够给我们的生活带来更多的便利的同时,我们绝对不能忘记这些科技将会给我们的社会和经济带来的副作用。因此,如果我们就此放任大公司继续在不经过用户首肯的基础上使用我们的数据去做他们有利可图的事情,而不管不顾的话,或许我们最不希望出现的未来可能性,将成为我们的必然结局。

而我们目前的社会架构的悲哀所在,就在于立法和行政机构在面临科技过度发展的情况时显得毫无还手之力。因此我感觉,硅谷那些自以为自己能够控制未来的公司,应该减慢速度,从过分尖端的技术倡导者的心态中退出来,发展一套道德自律系统出来。我的好朋友,斯坦福大学教授 Reilly Brennan 指出,一家公司想要成功,首先需要取得消费者的信任。因而,Waze 和市政部门的合作从概念上讲应该是一件好事,但我仍然对于他们开展合作的目的纯洁性抱有非常大的怀疑。

如上所言,大公司对于数据的真正意图对外界的不清晰,是一种非常严重的问题。目前唯一能够解决这个问题的办法就是让这些公司自己给自己套上「枷锁」。用户不需要敷衍了事的服务条款,而需要一个简单、清晰的「信任条款」。正如蜘蛛侠中的 Uncle Ben 所言类似:拥有多大的数据,就要尽多大的责任。问题是 Google、Facebook、亚马逊这些「未来的守门员」会真的听从外界的意见吗?

参考资料:om.co, Om Malik 个人博客


相关新闻 【更多】

唯众网络