议题制造者在谈什么

基辛格:启蒙运动的终结——无论是从哲学意义上还是智能上,在所有方面,人类社会都没有准备好应对 AI 崛起

这是美国前国务卿基辛格刊发于《大西洋月刊》的文章,从历史学家和政治家的角度阐述了 AI 可能对人类理性认知造成的打击。

基辛格三年前旁听了一场关于 AlphaGo 的宣讲,接下来又目睹它战胜了最好的人类棋手,震惊之余开始探索这个此前自己所知甚浅的领域,一些忧虑逐日增长。

在 AI 之前,改变现代历史的最重大的科技进展是 15 世纪印刷技术的发明,人类转而寻求实践经验累积的知识,而非仪式性的教条。理性时代取代了宗教时代;个人洞察和科学知识取代信仰成为人类意识的原则标准;信息被系统性地储存在不断扩张的图书馆内。理性时代促生的思想和行为塑形了当代世界秩序。

但如今,一场新技术革命已经让秩序失衡。革命的结果我们无法料到,其最终诞生的可能会是一个依赖于数据和算法驱动的机器、却没有道德和哲学原则去约束监管的世界。

我们当前经历的网络时代已经预示了一些问题,AI 只会让它们更极端。启蒙运动致力于让传统信仰让位于自由的、批判性的人类理性;因特网却通过累积和操纵大数据来“批准”知识。人类认知失去了其个体属性。个体变成数据、数据统治一切。人们放弃了“意义”的情境和概念解读,也不再关心历史和哲学,他们只想要“最相关”的信息来解决即刻的实际需求——真相变得“相对”,信息战胜了智慧,人类远离了自省。

AI 在这种情况下崛起,通过模拟人类的思维方式来解决复杂抽象的问题。和“自动化”聚焦于“手段”不同,AI 聚焦于“结果”。它为自己设定目标。因为一直在接收和分析新数据,并借此提高自身而处于不断的变动中,其成就塑形了本身。它们获得的是人类专有的能力。

无人驾驶车辆可能面临的道德困境(撞小孩还是撞老人?基于什么做出即时抉择?人类能理解它做出的解释吗?)只是传统人控电脑和 AI 所追寻原则之间的矛盾缩影。它可以在医疗、清洁能源、环保等太多领域为我们带来好处,但考虑到 AI 基于不断进化的、还未确定的未来做决策,其结果不确定且模棱两可,有三个特别的担忧是要提出的:

·AI 可能得出非计划中的结论。曾有个叫 Tay 的聊天机器人,被设计模仿 19 岁少女生成友好的对话,但却无法定义“友好”和“理性”,在一些人类的调教下,她很快变得种族歧视、性别歧视,并说“大屠杀不存在”。技术界人士说这个实验被搞砸了,但是其中的问题不容忽视——有多大的可能性这些 AI 可以理解指令情境?什么才能帮助它定义“冒犯性的”?毕竟人类都没对此达成共识。而当 AI 在我们的预期之外动作时,我们能在早期就监测并纠正它吗?如果不管它,这些小小的离轨不可避免地演化成巨大的灾难吗?

·在达成目标的过程中,AI 可能会改变人类的思维方式和价值观。 AlphaGo 用前所未见的方式击败人类,那么这些方法在人类的脑力之外吗?人类能学习这种方法了吗?其他的 AI 通过回答人类的问题来影响他们的思想,在一些常规的天气问题之外,如果询问其人生的意义和现实的本质呢?我们希望自己的孩子借助这种算法来学习价值观吗?AI 学得比人类快多了,我们也要准备好它的“试错”过程,准备好它犯下更严重的错误。

AI 可能达成了目标,但是无法解释它达成结果的逻辑依据。AI 终将进化到用完全不同于人类的方式去优化某个情况,那么它能用人类理解的方式解释自己的行为吗?如果其决策过程超越了人类语言所能解释的范畴呢?人类历史上就一直在创造方式来解释世界,中世纪是宗教,启蒙运动是例行,19 世纪是历史,20 世纪是意识形态。而我们即将航向的这个世界,一旦人类的解释能力被 AI 超越,人类意识何去何从?要是社会再也不能用对自己有意义的语言来解读世界了呢?

启蒙运动起源于哲学洞察,然后被新技术传播;我们的时代正在经历与此相反的方向:它先生成了一项统治地位的技术,现在要来寻找能起指导作用的哲学。AI 开发者在政治和哲学方面的知识,如同“我”在技术领域的知识一样浅薄,但愿他们也能自问上述问题。如果不早点做出努力,我们很快就会发现,努力得太晚了。

24 小时新闻制造者

美国威胁对伊朗实施最严厉制裁,为重签核协议开出苛刻条件。

5 月 8 日,特朗普决定撤出前任奥巴马在 2015 年与伊朗达成的协议,这份协议限制伊朗发展核武器,换取国际社会解除对伊朗的制裁。特朗普称这项协议不合理,因为伊朗的弹道导弹项目、2025 年之后的核活动,以及在也门和叙利亚冲突中的角色没受到任何制约,“我将签署一份总统备忘录,开始对伊朗政权重新施加最高级别的经济制裁。”

今天,美国国务卿迈克·蓬佩奥提出了特朗普政府要求伊朗方面做出的 12 项让步,作为签署新协议的交换条件。这些让步包括伊朗停止铀浓缩活动、停止发展可携带核弹头的导弹、不插手叙利亚和也门事物等。

蓬佩奥称,美国追求的是 2015 年核协议签署前的全球共识,因而呼吁美国盟友一并向伊朗施压,“一旦史上最严厉的制裁开始实施,伊朗将为自己的经济幸存而挣扎。” 但如果伊朗愿意接受条件,美国也对结束制裁持开放态度,从而让伊朗获得先进技术、重建外交和商业关系、支持伊朗现代化等。

先前的美国制裁包括全面停止和伊朗的一切贸易,除去一些“为伊朗人民好”的活动,比如出口医药和农业设备。蓬佩奥并未具体说明华盛顿方面将实施的制裁细则,仅说上周对伊朗央行行长的制裁“是一个开始”。

伊朗外长贾瓦德·扎里夫谴责美国“又回归了老习惯”,伊朗正在和其他伙伴就核协议进行谈判,以期找到一个解决方案,“美国的外交策略重回了老习惯:被幻想和失败的政策所困,被腐败的特殊利益所统治,重复着同一些错误的选项,因而也将收割同一批恶果。而伊朗同时在和其他方面商讨无美核协议”。

欧盟外长 Federica Mogherini 亦谴责了盟友,称蓬佩奥没能展示放弃 2015 年的协议将会让中东更和平。对于这份协议,没有“可替代的”方案,如果伊朗遵守它,欧盟也将认准它。

专家分析称,美国的新要求非常难以达到,几乎完全不现实。如果需要施加制裁,它们必须得到广泛的认可,而此前的 6 国协议是最被广为支持的,俄、中、印在这个问题上都不太可能向美国妥协。强迫盟友和其他国家放弃与伊朗的贸易,会造成一系列外交损害。批评者认为,它只是一个烟雾弹,真正寻求的是伊朗国内的“政权更迭”。

世界还发生了什么

委内瑞拉大选结束,现任总统马杜罗争议连任。国家选举委员会称投票率是 46%(远低于 2013 年的 80%),这是因为主要的反对派呼吁抵制选举,声称选举被操纵。结果揭晓后,反对派领袖 Henri Falcón 拒绝承认马杜罗,呼吁新一次大选。

中国实行差不多 40 年的计划生育政策可能行将结束。根据彭博社援引数位匿名人士的报道,中国政府正在考虑撤销一切对于中国家庭能够生育多少个孩子的限制。此举是为了延缓中国面临的老龄化问题,并且也可以彻底堵住国际社会一直以来对于计划生育政策践踏中国人人权的批评声音。

美国副总统迈克·彭斯警告金正恩不要试图“玩弄”特朗普。在朝方突兀放弃与韩峰会后,美国政府正在极力弄清平壤对下月的美朝谈判是否当真。“如果金正恩觉得自己可以戏耍特朗普,那是非常严重的错误,” 彭斯说,特朗普也可以从原定 6 月 12 日举行的峰会中走人。

韩国国防部发言人崔贤洙称,韩美“乙支自由卫士”联合军演照常举行,规模不会缩减。韩国国会国防委员会委员长、最大在野党自由韩国党议员金学容先前说,由于朝方对韩美“超级雷霆”联合空战演练表达不满,韩国军方考虑缩减定于 8 月举行的“乙支自由卫士”演习规模。崔贤洙表态,“乙支自由卫士”是年度例行防御性联合演习,韩国国防部就这一军演的立场没有变化,“现阶段,我们打算维持演习规模,与往年持平”。

英国外交事务委员会发布名为《莫斯科黄金:俄罗斯腐败在英国》的报告,谴责政府在间谍案后的鲜有作为导致“窃国者和人权罪犯继续利用伦敦洗钱”,而这些钱最后又用来危害英国及其盟友的利益。

巴基斯坦热浪造成 65 人死亡。巴基斯坦南部城市 Karachi 温度蹿升到了 44℃,而这股热浪恰逢穆斯林斋月 Ramadan,众多信徒在白天不吃不喝。福利组织担忧死亡人数将持续上升。

澳大利亚大主教菲利普·威尔森掩盖性侵丑闻罪名成立,成为天主教会内获此罪的最高级别人士。地区法官罗伯特·斯通在新南威尔士地区宣读了判决,威尔森将面临两年的刑期。

有人说

“如果只有一扇供所有学生出入的大门的话,那么凶手就可能被阻止了。”

得克萨斯州圣达菲高中上周五发生枪击案,造成 10 人死亡,10 人受伤。得州州长丹·帕特里克认为,是因为校园里有太多的出入口,所以枪击案才这么容易发生。推特网友对此言论表示同意——“帕特里克是对的,不过还有一些其他的原因:学校有地板,让凶手太容易走路;学校灯光太足,让凶手能看得清东西;学校里充满了氧气,让凶手得以呼吸。”

“胡安·卡洛斯,你是同性恋,这一点事儿都没有。上帝如此创造了你,并如此爱你。教宗也如此爱你。你必须为自己的身份而感到开心。”

现任天主教教宗方济各对一名同性恋者说道。

胡安·卡洛斯是一名教会性侵案的受害者,在幼年时被智利神父 Fernando Karadima 折磨。后者早在 1984 年就被控性侵幼童,但是其上级却没有采取任何行动。直到这些指控在 2010 年被公开,智利天主教会才对此进行了为期一年的彻查。梵蒂冈在 2011 年判 Karadima 有罪,逼其退休并将之与过往的信众和同事隔绝,终身不得行使神父职责。

教宗方济各在两周前与卡洛斯私下会面。卡洛斯提到自己的性取向给自己造成了困扰,因为拉丁美洲的很多主教都视他为“变态”、“在性侵案上撒了谎”。教宗因而说出了上面那番话,鼓励他正视自己。

罗马天主教会一贯视同性恋为“异端”、与上帝的法则相悖。这是教会领袖做出过的最同性恋友好的评论。梵蒂冈首席发言人 Greg Burke 回应,“一般来说我们对教宗的私下谈话不予置评。”

你可能还感兴趣的事

巴西小岛 12 年迎来首个新生儿。

大西洋小岛 Fernando de Noronha 因其海岛景观和野生动物保护而成名,人口仅过 3000。因为岛上没有产房,所以官方不鼓励产妇在岛上生育。所有产妇需要坐船跨越 365 公里的海洋前往最近的陆地城市 Natal 待产。12 年来,未有新生儿诞生在岛上,直到一名女子周六在家中产下一名女婴。这对所有人来说都是个意外,因为孩子的父母对怀孕毫不知情。

皇室婚礼上赠送给客人的礼品袋被炒到了 1000 英镑。

有 2640 名公众被邀请至温莎城堡外围观哈里和梅根的皇室婚礼,每个人都拿到了一个皇室礼品袋(包括贝克汉姆夫妇、奥普拉、克鲁尼等名人在内的 660 位礼堂客人并没有)。Ebay 上很快出现了礼品袋的拍卖页面,价格炒到了 1020 英镑。

这个印着 “H&M” 的礼品袋的内容物有:婚礼行程小册子、一罐面包干、一大块巧克力金币、一个冰箱贴、一瓶水和一张温莎城堡礼品店的 8 折券。

凶手远亲的 DNA 帮助解决了越来越多的陈年旧案。

三周前,加州警方逮捕了金州杀手 Joseph James DeAngelo,因为其远亲的 DNA 被录入了数据库 GEDmatch;上周五,华盛顿警方又宣布了一起 1987 年双尸案的告破,用的是同一种方法——通过寻找与其适配的远亲 DNA。

这是“基因族谱学”的领域。为双尸案做了 DNA 分析的法医实验室 Parabon NanoLabs 已决定将之用于更多旧案调查。他们在 5 月 8 日成立了新的基因族谱部门,已经在 GEDmatch.com 上传了 100 多个犯罪现场的 DNA 信息,目前已发掘出了 20 多个三代表亲以内的“配对”。

此前这项技术多被运用于寻亲。现在,人们在 23andMe 和 AncestryDNA 等寻亲网站上传的原始信息会被移至完全由志愿者运营的 GEDmatch,基因学家得以也比对更多的 DNA 片段。他们运行的测试比警方的系统更加精确,获得的数据也比 FBI 数据库里的更丰富。很快,人们将听到更多旧案告破的好消息。

历史上的今天

1907 年 5 月 22 日,黄冈起义爆发。

1939 年 5 月 22 日,德意法西斯签订战略同盟协定。

1963 年 5 月 22 日,AC 米兰击败本菲卡首夺欧冠。

2010 年 5 月 22 日,印度客机降落时失事坠毁,158 人遇难。

5 月 22 日诞辰的有:瓦格纳(1813)、柯南道尔(1859)、陈景润(1933)、劳伦斯·奥利弗(1907);

这天逝去的有:雨果(1885)、儒勒·列纳尔(1910)、德国剧作家恩斯特·托勒尔(1939)。

题图来自 《西部世界》

我们做了一个壁纸应用,给你的手机加点好奇心。去 App 商店搜 好奇怪 下载吧。