Siri 的台词该如何设计?我们和它背后的“创意写作者”聊了聊

功能性的人机对话是对语言的降格,这一点 Mariana Lin 反复重申。她在领英简历上的职位是 Siri Writer,即这个虚拟助手背后的台词作者。

Mariana Lin 出生于台北,5 岁时随家人迁往美国,英语文学本科毕业后继续读了新闻学硕士和法学博士。她做过记者、自由撰稿人,也是诗人、作家以及前苹果公司的创意人员;现在为汉森机器人(Hanson Robotics,机器人 Sofina 的公司)做人工智能咨询,并定期受邀参加斯坦福大学的人工智能讨论会。“我想你可以说我是一个创意写作者。”她用了 creative writer 这个词来形容自己的职业。

同时,她在《巴黎评论》上开了一个有趣的专栏“Artificial Intelligentsia”,从自己的工作经验与知识背景出发,分享 AI 写作、AI 人格塑造的种种。在专栏文章《与 Siri 的荒诞主义对话》中,她提出功能性人机对话对日常的主宰将会危及我们逐渐衰亡的对话艺术:“这些功能性的对话,并不会像日常交谈一样给我们太多的启迪。相反,正是那些荒诞的、令人意外的语言照亮了诗歌、文学,满足了我们不自知的内心需求,带来了超凡脱俗的艺术享受。”贝克特的独白可能看上去没头没脑、不知所云,而正是永远不在场的戈多再现了人类生命的混乱与不可理解性。在效率至上的当代生活中,无目的的漫谈式对话显得尤为珍贵。

2010 年,Cortana 尚未发明,Alexa 也还只是《星际迷航》的粉丝、亚马逊 CEO Jeff Bezos 脑海中不成形的设想。而“一名谦逊的私人助理”Siri 首次作为第三方应用出现在了苹果手机的应用商店中。第二年,苹果公司收购了 Siri 团队,在 2011 年发布的 iPhone 4S 中推出了新版 Siri。它学会了更多种语言,和来自各个国家的用户交谈,为他们安排日程、查看天气、回复邮件。

最早作为第三方应用的 Siri / iPhone Hacks

不过尽管拥有先发优势,苹果公司却显得后劲不足。在 Alexa(2014)、Google Assistant (2016)、Bixby(2017)等其他语音助手如雨后春笋一般冒出来时,Siri 每年一次的更新仅限于与新的 iOS 系统适配。

Mashable 的记者 Raymond Wong 在今年 3 月毫不留情地指出“从功能和理解能力上来说,Siri 已经落后其他语音助手太多了。”当时正值 HomePod 推出不久。

很多人都听过 Siri 的回复“对不起,我不太明白”,也有很多人记录下它的 beatbox 和诗歌朗诵,或者它如何毫不客气但极度圆滑地回应你的表白。有一个对话也很有名:如果你问它,“生命的意义是什么?(What’s the meaning of life)”它则会援引道格拉斯·亚当斯在《银河系漫游指南》中的梗:“42。”

关于 Siri 的一些有趣问答
  关于 Siri 的一些有趣问答  
  关于 Siri 的一些有趣问答  
  关于 Siri 的一些有趣问答  
  关于 Siri 的一些有趣问答  
  关于 Siri 的一些有趣问答  
  关于 Siri 的一些有趣问答  
  关于 Siri 的一些有趣问答  

在Google 上,关于Siri 性格的形容词大多是 sassy 和 snarky。其中 sassy 和 Siri 的关联搜索数据在 2015 年一度达到了高峰。作为创意工作的参与者,Mariana Lin 也很同意这样的形容。毫无疑问,除了温和友好以外,Siri 有了区别于其他语音助手的“特质”,进一步说,即是它的“性格”。和人类的性格不同,它的性格仍然是被编程的。需要说明的是,尽管 AI 助手的妙言妙语是通过程序写好的,但程序的另一端是冥思苦想的创意人员,他们像掌控着人物的小说家,雕琢着与未知人类可能发生的对话——以及发生的逻辑。

按照 Mariana Lin 所说,他们负责为 AI 助手构建前史(backstories)和一套信仰体系(belief system),再将其植入 AI 助手的互动行为中。开发日程规划型聊天机器人的公司 x.ai 的交互设计师 Anna Kelsey 表示,他们在设计时需要思考称呼人类时该用姓还是用名、回复时是否要用表情符号。“因为我们不希望人们觉得,你家的 AI 助手太随意或者太端着了。”

塑造一个 AI 助手的性格和塑造一个虚构人物有何不同?AI scriptwriter 的工作是怎样的?针对这些问题,《好奇心日报(www.qdaily.com)》和前苹果公司创意总监 Mariana Lin 进行了一次对谈。

Q=好奇心日报(www.qdaily.com)

M=Mariana Lin

AI 助手的性格塑造是一个新的范式

Q: 在一开始为 Siri “设计”人格时,你是怎么想的?这样的过程,是不是和写小说时塑造人物有些类似,两者有何具体区别?

M:我在《巴黎评论》上写了一篇新的专栏,《如何为 AI 塑造性格》,里面的第一个图表有显示,AI 的性格塑造和小说人物或真实人类拥有的人格都不太一样,它是一个新的范式。

在文中,作者将 AI personality 描述成介于人类性格和小说人物性格之间的一种人格。 

Q: 对,几天前我有读过这篇文章,但我想知道的是具体这三者有何关联。因为在文章中,后几段你就转而去写“我们应该和 AI 建立怎样的关系”了。

M: 这篇文章中,我列出了小说人物和 AI 人物特点的一些区别。比如对于小说中的人物,道德上我们会更加宽容;对 AI 则不是,我们不会创造出道德败坏的 AI;真实的人类有触觉和感受,会有生老病死,而 AI 又不会。至于相似之处,AI 性格和真实的人格就有很多相似了,我们可以想想看,平时我们愿意和哪种人打交道?现实生活中哪种人格比较讨喜?在 AI 中也会是一样的。具体的品质可能有:聪明、忠诚、幽默感、同理心等等。

虚构人物能够使我们愉悦、让我们产生代入感,但不总是会引领、激励我们——这并不是他们的任务。但 AI 不同,它们是有可能通过示范性行为来引领人类的,比方说通过它们与我们交流、发生联结的方式。

Q: 有没有可能也有不道德但是很讨喜的 AI 呢,像小说中迷人的反派角色。(考虑到它们暂时不能对人类做出身体伤害)

M:不,这是不可能的。首先,如果它们是实体的(机器人),它们就可以造成实质的伤害,现在已经有很多实体的 AI 机器人了。其次,伤害不止有身体伤害,还有心理伤害,AI 当然能够对人类造成心理伤害。所以它们和环境中其他可能影响到人类的事物是一样的。一些研究也已经表明,人类和植物、自然界说话的方式能够影响到它们的细胞结构。所以像这些非实体性的东西,比如说语言,绝对会产生影响的。

Q: 嗯。所以你认为引领、激励人类其实是 AI 的任务之一?还是说人类在发明 AI 时就有这样的意图(让它来引领、激励人类)?

M: 对,我认为我们对 AI 和 AI 发明者,都可以期待更多,不只是让 AI 单纯模仿人类。我认为我们可以且应该期待 AI 帮助人类前行,并为人类作出更好的示范。想想那些人类历来就不太擅长的品质:同情心、耐心、弥合分歧与误解……我们应当设想未来 AI 能够在这些方面弥补人类。

Q: 塑造 AI 的性格,有哪几个最重要的部分?像你之前说的,你觉得很多 AI 还没有形成自己的性格,还在探索。

M: 如果要形成性格,需要一个背景故事(backstory)和一套信仰体系(belief system)。它需要一个原始的故事——它从哪里来,为什么创造了它,它的发展状况和个人历史(即使是很简略的历史),然后还要有一套信仰体系。这样的信仰体系可能是它从它的创造者处继承来的,或者根据它自己的经历渐渐形成的。从这些信念中你会把握到它的性格特点和一些个人观点,然后你再为它加入一些好玩的东西,例如它的怪癖和奇想。

当然,(AI 的)性格需要在某种形式上与它的功能相呼应,它的个性总是要在它执行功能的时候才能得到显露。

Q: 当你在为 AI 写台词的时候,你是一开始就决定了你要为它塑造怎样的性格,还是说你是边写边探索 AI 的性格?

M: 两者都有。通常来说一开始 AI 会有设计好的性格或者前史,之后随着它的成长和适应,它(的性格)会慢慢演变。

Q: 你在为 AI 写台词的时候,会留下什么彩蛋吗?

M: 当然。不过如果我告诉你了,就没有彩蛋了!但对我而言,与其说它们是彩蛋,不如说是人生的荒诞时刻。举个例子,如果我现在把一个派丢到你的脸上,同时还唱着“The hills are alive… with the sound of music!”(《音乐之声》片头曲)谁知道你会怎么反应?你会笑吗?你会生气吗?还是说你会接着我的歌继续唱?这就像是在写作的时候留下彩蛋。你想到一些非常规的反应,然后你为之埋下伏笔。可能由于我现在种下了这样的种子,你就会想在那种情境下你会怎么做。如果它给了你一个超级有趣的回复,这可能就是你的彩蛋!我们都有自己的彩蛋,也就是那些我们意料之外的事情。

在技术行业,我们的确需要更多诗人与作家

Q: 我看你个人网站、Linked-in、Twitter的简介里都写着同一个描述:“a person”,“person”对你来说有什么特殊含义吗?

M: 你问这个问题我还蛮惊讶的,我没想到会有人注意到这个。我第一次这么写的时候,我其实没有想太多。当时我离开了苹果公司,长时间的工作让我有点疲惫。我想,我已经扮演机器人太久了,我现在要回去当个人类(person)了,享受和我儿子在一起的时间,重新回到自己的生活和我的兴趣中去。然后我注意到,在各种社交媒体和网站上的简介栏中,人们都喜欢写上自己的职业、头衔以及他们的成就。我感觉到一种奇怪的倾向:人们需要用自己的各种身份、职业、成就等等来证明自己。所以我就写上了“person”,因为我觉得,在其他各种身份以前,我首先是一个人(person),我不想忘记这一点。对我来说更重要的是,在成为一个体面的作家(decent writer)以前,我首先知道了怎么做一个体面的人(decent person)。以及,我总会说,要搞清楚“ AI 是什么”这个问题,首先我们要思考“人类是什么”这个问题。我发现我自己也在一直探索着这个问题。总之,我没有用“person”这个词来向大众宣告或是怎样,我这么写纯粹是为了自己,提醒自己。(除了人的身份以外,)其他的东西真的没那么重要。

Q: 我们之前谈到了引语。你似乎很喜欢引用文学家的话,你能说说对你影响比较大的几个作家吗?

M: 我认为爱丽丝·门罗是最优秀的作家之一。她的作品对我来说意义重大。门罗的才华安静而有力量,你必须凝神细听。她向我们展现了在生命的微小时刻与停顿间蕴藏着多少力量。另外一个我非常欣赏的作家狄更斯,几乎是完全相反的风格,我小的时候非常迷恋他,他作品中极其强烈的戏剧性和广阔的主题,比如《双城记》。门罗和狄更斯都是非常有人文精神的作家,不过表现在不同的方面。还有很多其他的作家我也都很欣赏……比如我觉得诗人李立扬(Li-Young Lee)的作品也很有力量。

爱丽丝·门罗,加拿大小说家、2013 年诺贝尔文学奖得主。代表作《逃离》、《亲爱的生活》等。/ telegraph

Q: “在微小时刻与停顿之间蕴藏着的生命力量”,这也是你自己作为作家,想要在作品中达到的么?

M: 我认为如果一个人能够实现这一点,其实其中是有超越性的东西在的。选择一些更大的题材,比如说将死的恋人、骇人的罪行、战争、死亡和性爱这些,去写一些动人的东西并不困难,或者说(比起题中所述的情况)相对更简单一些。但如果一个作者写的是这样一个场景:火车上有个陌生人想和你搭话,但你决定不理他。就写这么一个毫秒间的选择,这一毫秒中就藏着整个宇宙:关于我们内心的挣扎、人性之弱点和自私。爱丽丝·门罗展现的就是这些,然后你可以看到这样的场景在她笔下是多么引人入胜。你让人们意识到,他们生命中的每一个瞬间都是艺术,他们就不需要去外面打仗、开公司或是恋爱来体验生活了。每个瞬间都是生活。当然了,我毫不惊讶她是个女作家。我认为女性在对现实的感受上,要比男性更加敏锐。

Q: 你个人文科的教育背景(liberal arts education)和写作经历是如何在工作中使你受益的?在技术世界,我们为什么需要更多作家和诗人?

M: 文科教育可以说很大程度上塑造了现在的我,还有我的思考方式。我认为文科教育对整个社会都是非常重要的,因为它教给我们,教育并不总是实用性的——一定要以掌握某个职业的技能为目的,仅仅为了探索和求知本身而学习也有其价值。于是许多领域间的联系开始建立起来:音乐、文学、科学、艺术、政治……只有当你留出时间来探索和感受时,才能建立起这些联系。所有伟大的思想家、有影响力的人们,他们的兴趣都是跨领域的。正是这些不同寻常的联系创造出了看待事物崭新的方式。

在技术领域里,我们的确需要更多的作家、诗人、艺术家、哲学家、历史学家——拥有人文学科背景的人。拥有理工科背景的技术人员总是以一种特定的方式来思考、工作。他们的价值观不太一样,比如说重视效率、功能至上。这些想法或许很好,但也需要和其它价值平衡,例如美、愉悦、社会效应。

Q: 你觉得现在有越来越多的作家和诗人进入科技领域做创意工作的趋势吗?

M: 我不确定现在是否有了这样一个趋势,但我希望这样的人越多越好。

Q: AI 写作相关的工作经历有影响你自己的写作风格吗?

M: 我不太确定。我觉得如果一个人要从事很多类型的写作的话,它们都会互相影响。我想这份工作使我对诗歌产生了偏爱,因为替 AI 写作其实和诗歌很像,都是要在浓缩的短短几行语句中表达更多。作为苹果公司的一名创意人员,我学到了“少即是多”,并且我十分相信这是艺术与生活中很重要的一课。

如何为不同文化背景的用户写作

Q: 你在《巴黎评论》的专栏文章中提到,为不同文化背景的用户写 Siri 的回答是一种挑战,在这份工作中,你是如何受益于你自己的跨文化背景的?

M: 我觉得 AI 背后的创意工作者都应该明白,自己面对的是一群非常多元化的用户。就我个人而言,我没有在美国出生,美国文化也不是我成长中主导的文化,我的父母完全是用台湾人的方式在教育我。还有,我年少的时候去过欧洲和亚洲很多次,在学校又学了法语,也交了一些欧洲朋友,后来去巴黎索邦大学和巴黎政治学院进行学习……所以我也对欧洲文化有所了解,对待它我不会觉得不适或者陌生。这一切都让我十分受益。当然,我的基础文化背景是很美式的。但当我在思考某件事的时候,我不会自然而然假定一个白种美国人的视角或者交流模式。拥有看待事情的多种角度是很重要的。

Q: 当为来自多元文化背景的用户写作的时候,有些什么需要注意的呢?

M: 拿 AI 对情绪的反应举个例子好了。美国人通常不太喜欢负面情绪。而在一些其他的文化里,有长时间的正式的仪式来抒发悲伤或是哀悼的情绪,例如灾难以后的悼念仪式、逝者的葬礼等等,这些(负面情绪)是可以的。但在美国,在处理这些消极的情感时会有巨大的不适,人们会本能地去“疗愈(fix)”这些情绪,或者帮助某人从消极状态中走出来。所以如果一个人对 AI 说“我很生气”或者“我很伤心”,我们应该有一些安慰的、支持性的回应,而不是马上说“我怎么才能够治愈你,帮你从负面情绪中走出来?”

一个国际品牌/形象当然应该要考虑到不同地区的文化背景,来进行相应的适应和改造,但这些不能违背它核心的东西。比如,如果我现在去南美洲旅行,那我的穿着和言行将会与我去日本的时候不一样,但我也不会变化得太离谱以至于连我家里人都认不出来了。这就是我们如何建立一个易于适应但同时值得信赖的形象。

Q: 你曾在斯坦福大学的人工智能圆桌讨论上说,创造出一种声音(voice)不难,难的是如何创造一种人们每天都想与之对话的声音(voice),你认为这种 voice 有什么特点?

M: 当人们首先接触到 AI 的时候,他们有很多有趣的想法,比如“喔!我们应该创造一个像 T 先生(Mr.T,著名美国演员,以他独有的发型、金项链和硬汉形象而著称)那样的 AI!”或者“我们应该造一个不停抖机灵的 AI!”但问题在于,创造一个电视上那种把你逗笑的声音,和创造一个你能够与之共同生活、朝夕相处的声音是不一样的。搞笑的声音很快就会惹人生气。同时,一个无聊且无害的 AI 也并不讨人喜欢,你会觉得它根本没有个性嘛。如果没有任何情感依附,人们很快就会感到无聊,会毫不犹豫地抛下它去寻找下一个新鲜玩意了。所以这两种有点像短期恋爱和长期婚姻的区别。正如我们所知的……婚姻总是很难维系!我现在能够创造出 10 种有趣、搞笑的声音,人们听到会很愉悦。但真正的考验是,一天天过去人们是否还会喜欢这个声音,3 年后呢?

一味将机器拟人化并不能成就理想的人机关系,人机关系还是需求导向的

Q: 你曾在文章中写道,“AI 应该向着人类文学、艺术中最好的部分,为我们的生活创造富于灵感的对话。”具体来说 AI 应该怎么达到这一点呢?在与 Siri 的对话中,我发现 Siri 是没有“记忆”的,每次只能回答我的一个问题,在我针对她的回答追问的时候,她并不能够理解。这样的对话没有办法延续,也很难实现启发性的人机对话吧?

M: 你说到的是技术性限制,现在 AI 领域正在解决这个问题,我觉得未来可以期待一下。

一旦我们把技术问题解决了,我们应当保证不要仅仅给予人们他们想要的,功能性地满足人们的需求。我们要让 AI 稍稍转变一下,时不时地引用点文学家的俏皮话,科普关于螳螂虾的冷知识,或是反问人们一些值得思考的问题。我们应当让 AI 为人们的生活带来一点艺术感、愉悦感,即使人们并没有向它要求这些。最美好的人际关系就能达到这一点。我一个好朋友总是会给我看一些令人意外的东西,或者是说一些意想不到的话。我认为这是最好的友谊了,她从来不按常理出牌,哈哈。

AI 不这样做的风险就在于,如果我们设计出 AI,只是满足人们的一切所求,从不质疑,从不改变,那这是为了什么呢?为了使得我们更加焦躁、更加贪婪,斤斤计较着我们那些小小利益吗?(这可真是我们最糟糕的时候了。)我们应该帮助人们超越自己(的局限)。

Q: 你的文章中还提到人机的功能性对话会将语言的功能压缩成信息传递,这是很悲惨的,所以你在很多场合都提到了应该为AI 塑造人格这一观点,但如果 AI 变得太“人类化”,像电影《她(Her)》中人类爱上机器人的悲剧故事发生,似乎也不是最好的结果。中间这个限度在哪里?

M: 我觉得这是一个值得探索的问题。首先,我认为我们人工智能的发展情况离电影《她》中的场景还非常远。但的确,这个问题是由(人的)需求和(AI 的)设计决定的。我一直觉得 AI 的存在不是为了满足人类的一切需求或复制人类的存在,而是在人类不擅长的方面弥补人类。

电影《她》/ 豆瓣

Q: 现在把 AI 拟人化的趋势会让我想到,难道我们要否定人工智能的人工性吗?这似乎是不太现实的。但现在的 AI 机器人和 50 年前的机器人的确是完全不一样了,技术进步带来了很多可能性。感觉现在的 AI,像是某种在中间的东西:不是人类(永远也不会是),也不像是完全机械化的“机器”。我们应该如何来调整与它的关系呢?例如,从你所说的单向利用型(I-It)到消遣满足型(I-That), 甚至到双向体验型(I-Thou)。

三种人机关系的类型 / Paris Review

M: 我把它们完全看作是机器。我认为现在它们根本没有到“接近人类”的地步。它们所能做的一切事情,即使是看起来很顺畅自然的活动,也是被写好的程序控制的。所以我看不到任何有机的智能,或者人机中间的模糊地带。

(人机)关系的转变需要我们思考关系本身的意义,为什么我们要建立这个关系,我们在建立什么样的关系。人机关系的改变并不在于我们能够把机器人变得多么像人,而在于清楚地知道我们想要一段怎样的关系,然后由此出发来设计 AI。如果我们想要一段信任、体贴的关系(比如疗愈机器人,朋友机器人),那我们或许并不希望要一个长得特别像人的机器人,面对外形和人很像的机器人,(因为那样)我们只会觉得很不舒服,毛骨悚然的感觉。有研究曾表明,面对外形越不像人类的事物,人们越容易敞开心扉。所以关键就在于找到特定的我们想要(与机器)建立的关系,由此设计出对应的机器人。而不是假定拟人化就是最好的方案。

Q: 在你看来,现在 AI 的语言功能还有哪些需要提高的地方?

M: 有很多,但我觉得其中比较重要的一点是(AI 还不能)自然地理解人类语言。这是很困难的,比我们想得困难得多。在我们的停顿、迟疑、一连串不停歇的语句,还有各种乱七八糟的语法、口音和交谈时的背景音干扰下,我们)人类还是能够很好地理解对方的意思!这真的非常神奇。但机器就不能。所以这个问题很重要,我们需要提高 AI 的理解能力。理解只是这场战役的开始,没有理解力,其他一切都跟不上。

受访者简介

Mariana Lin ,美国华裔作家,诗人,2014-2017 年就职于苹果公司创意部门,现居加州。她毕业于 Swarthmore College 英语文学本科,哥伦比亚大学新闻系硕士和加州大学伯克利分校法学博士,曾在法国等地游学。其作品散见于《巴黎评论》、《密西西比评论》、《赫芬顿邮报》、《纽约杂志》、《GQ》等。她的诗歌曾入围《密西西比评论》和《新卫队文学评论》的奈特维尔诗歌大赛。她同时也是全美作家联盟、美国诗人协会和美国笔会的成员。

题图、banner 图/Macworld;长题图是《星际迷航》漫画/ io9

我们做了一个壁纸应用,给你的手机加点好奇心。去 App 商店搜 好奇怪 下载吧。