谷歌内部视频暴露公司野心:未来要用数据“操控”人类

WechatIMG72_meitu_1

【猎云网(微信号:)】5月28日报道 (编译:叶展盛)

由于对用户的一切了如指掌,谷歌已经建立了一个数十亿美元的业务。外媒通过一个谷歌的视频了解到,这家公司将在未来如何使用这些信息,这野心十足但也让人感到不安。

这个视频是由X部门(前Google X)的主管Nick Foster在2016年后期制作的,同时他也是谷歌Near Future实验室的联合创始人。这个视频最初只是在谷歌内部公布,它描述了一个数据搜集的未来,谷歌会促使用户来推动自己目标的实现,并通过个性化的设备搜集更多数据,甚至通过指导整个人类的行为来解决贫穷和疾病等问题。

一位X部门的发言人告诉外媒:“如果这让人感到有些困扰,我们能理解,因为它的设计本就如此。这是一个设计团队在多年前制定的一个思想实验,它利用一种名为‘思辨设计’的技巧来探索一些让人不适的想法和概念,从而引起人们的讨论和争议。这和现在以及未来的任何产品都没有关系。”

这个视频的名字为The Selfish Ledger(意为“自私的分类账”),长达九分钟。该影片以拉马克的表观遗传学起头,该学说主要关于一个生命体在一生中所获得的习性特征,并将之遗传下去。在视频的旁白中,Foster承认这个学说在基因学方面的可信度也许不高,但却为用户数据提供了一个非常有用的隐喻(这个视频的标题也是在向英国演化理论学者理查德·道金在1976年出版的《自私的基因》致敬)。我们使用自己手机的方式创建了一个“在持续进化的自我代表”,Foster将之称为“ledger”,也就是分类账,它假定这些数据侧写能成功被建立,并能对行为作出改变,并从用户之间进行传输。

 “以用户为中心的设计原则已经统治了计算机领域好几十年的时间,但如果我们换个角度去看待这些事务呢?这些分类账是否能被赋予特定的意愿或目标,而不是简单地作为历史参考?我们是否能通过引入更多数据源创建一个更加丰富的分类账?我们是否能把自己当成信息的暂时携带者,而不是拥有者?”

Foster表示,是否能想象,我们设备上使用的、所谓的“分类账”——包括我们的“行为、决策、偏好、行动和关系”数据——能够像遗传信息世世代代相传那样,传输到其他用户那里。

基于分类账的理念,视频的中间部分展示了一个概念化的Resolutions by Google系统,在该系统中,谷歌会鼓励用户去选择一个人生目标,并通过他们的手机,在每一个人生十字路口指导他们,这“反映了谷歌作为一家组织的价值”。举个例子,假如你在用Uber进行共乘时,或者在Safeway购买当地生长的作物时,它会鼓励你作出更加环境友好型的选择。

内图2.jpg

当然,这个概念的前提是,谷歌能够获取大量的用户数据以及他们的决策。这个视频里并没有提及这种系统可能会引发的隐私问题或潜在的负面外部影响。分类账对数据前所未有的需求,也是我们对这种情境最大的担忧。

Foster构想了一个未来,届时“目标驱动的分类账概念更加容易被人们接受”,“建议可以被分类账本身所修改,而不能被用户自己修改”。这仿佛就是《黑镜》的寓意变成了现实,分类账会主动想办法填补自身认知的不足,甚至会为用户选择性地购买“它认为对用户有益”的数据搜集产品。在视频中,分类账因为不知道用户的体重,还购买了一个体重秤。甚至该视频还展现了一个让人感到不安的科幻式未来,你可以想象一下分类账已经精明到可以自己提出建议,甚至3D打印出自己的设计。“欢迎回家,Dave,我为你打造了一个秤。”

内图3.jpg

Foster对分类账的展望已经远远超出了一款工具的自我优化,这个系统将能够“弥补自身认知的不足,提炼其人类行为模式”——这不是针对某个个体的行为,而是针对整个人类物种。“想象用户数据具有多代属性,可能后来出现的新用户会从‘前代’用户的行为和决策中收益。”Foster解释道,他构想了一种人类行为数据的挖掘模式,将数据像人类的基因那样排列起来,从而“提高对决策和未来行为的预测精准性”。

“通过不断的搜集和比较,这可能获得对整个物种层面的某个问题的理解,例如抑郁、健康和贫穷等。”Foster总结道。

内图4.jpg

Foster的工作就是负责X部门的设计,谷歌的“登月工厂”本身就有一些未来的目标,分类账的概念也富有科幻小说的色彩——但同时它也和谷歌现有产品的态度完美契合。谷歌照片已经在推测你喜欢的照片、图片,并根据其人工智能制作了整个相册。谷歌地图和谷歌助手都会根据搜集的位置和行为数据来给出建议。谷歌的这些服务的求知欲以及自信程度也越来越高,甚至Gmail还提供了电子邮件的自动书写。

如今,有关新技术和人工智能的道德正在进入公众的视野,谷歌也经常被抓住忽略了某些道德问题,或者它的产品存在某些副作用。例如它最近在I/O大会上展示的语音呼叫人工智能Duplex,但就有人认为Duplex可能会有欺骗的行为,这促使谷歌作出承诺,称自己的人工智能会在呼叫受信任的服务工作者时,一直会进行自我认证。

The Selfish Ledger将谷歌定位成全世界最困难问题的解决者,它会从每一个用户那里搜集过度隐私的个人信息,这同时让人感到苦恼。但目前也没有任何证据表明,它是否真的只是谷歌内部一位富有影响力的高管发起的一个思想实验。但这个视频也揭示了,这个全世界盈利程度最高的个人数据搜集服务商内部进行了怎样的思考。