第190期主持人 徐鲁青

过去一年里，被A编辑部聊AI不再止于技术新闻。吞天室胡彦斌、知识易梦玲的和们“AI视频”引发争议，出版行业出现冒名写作，被A编辑部聊评论区里混入疑似AI生成的吞天室段落……生成式内容正以很快的速度进入文学、影视、知识以及普通人的和们日常表达。 

在上一期的被A编辑部聊文化周报里，写到剑桥大学的吞天室一项最新研究显示，超过半数已有作品出版的知识英国小说家认为，AI最终可能完全取代他们的和们工作，39%的被A编辑部聊受访者的收入已受到影响，市场上也出现更多AI写作、吞天室甚至冒名出版的知识书籍。

我们作为写作者，也在经历同样的变化。你会用AI写稿吗？还是在选题和查资料时用上它？它们都改变着我们的写作方式。

另一方面，AI的扩张也在放大数字世界里的知识差异。没有被系统记录的经验、弱资源语言，都更容易被排除在模型之外。另一项来自康奈尔大学的研究也指出，自ChatGPT上线后，很多人把AI当作新知识入口，但模型本身深受英文语料的影响，知识分布并不均衡。而且在未来，当模型开始学习模型生成的内容，文化的想象力会不会被固定在某几种模板里？

这期我们来聊聊，过去一年里，AI怎么改变了我们的创作方式？对创作者而言，这场变化意味着什么？

AI在工作流里的悖论

王鹏凯：我不太信任AI的一些功能。比如说它给我查资料，或者修改我的稿件，我觉得改出来的中文稿件会非常生硬，文体上也会有点奇怪。

我有点老派。前两天去一个非虚构工作坊，听他们聊到现在很多媒体工作者至少都会用AI来搜集资料。但我还是对自己的信息检索能力比较有信心，而且之前有试过，我自己找不到的材料，AI基本上也找不到。

徐鲁青：这一年我的搜索方式发生了挺大变化。比如我现在用Google的时候，会越来越少去打开主页。因为搜索引擎会在前面出现AI生成的简略内容，我一般就直接看那个内容。 

我看方可成写的一篇文章，他说未来媒体机构的流量会被AI剥夺得越来越少。因为现在大家用AI看信息，即使附上了网页的链接，读者也很少真的会点进去看里面更细节的信息。 

王鹏凯：但是不是我们已经习惯了把什么东西都喂给AI，现在欧洲有很多内容创作者抵制AI，因为自己的材料未经允许就被放进AI的语料库里训练，觉得这是很大的伦理问题。

我参加过一节人类学的方法课，有一个外国的老教授，胡子花白，坐在前面，很有兴致地教我们使用一款我从来没听说过的手动转录田野录音的软件。他讲了大概半个小时，一步步地告诉我们这个软件怎么用。 讲完之后，一个同学问出了我们所有人都想问的问题：你为什么不用类似讯飞这样的软件？它可以直接帮你转成文字嘛。 

老教授说，你怎么确定你上传的这些访谈信息只有你自己能看到？在田野或者采访工作里，有一个前提就是你已经向对方承诺这些东西是私下的，你要保护他的隐私。但从伦理上来说，如果你把它喂给AI，你不知道谁会看到，它也可能变成语料库的一部分。 

我觉得虽然这是一个很老派、传统手艺人式的观点，但它其实也是一个提醒。如果我们很信任地把所有采访材料、稿件都发给AI，也是一个需要反思的问题。

徐鲁青：另一个问题是，就算我们在个人层面上不想把自己写的东西喂给AI，难道它就真的不会得到吗？我们发在任何地方，它都有能力抓取，个人创作者是完全失权的。平台得到了我们的内容，就有权力决定这些内容的流向。

王鹏凯：英国去年有一个法案，当时在议会争议很大。它的逻辑是，作家必须主动提出“我不同意被AI训练”，不然就默认你同意。这个引起了很多作家反对，比如石黑一雄他们就提出批评。最后这个法案因为阻力没有通过。

徐鲁青：我觉得还有另一个问题，如果一个信源不愿意给GPT提供开源数据库，它的可见性会变低。这也是它商业考量的一部分。

比如现在有一个灰色地带，类似AI广告投流。你在网上搜一个“我最近要打什么疫苗比较好”，AI会推荐你某些公司，有一些公司就会去给AI“做数据”，让AI更大概率吐出他们公司的名字，推荐他们公司。这个就像最早百度刷置顶广告一样，数据是可以被刷的。所以如果我们拒绝让它提取我们库里的内容，我们的内容会变得越来越不可见，越来越少的人点进去。

王鹏凯：这个困境是双重的。一方面我们前面在讲，作为内容创作者，我们想保护自己的作品，不被AI使用。但另一方面，又会作为使用者去抱怨AI提供的信息不准确，它不准确的前提很多时候就是因为它的语料库不够大、不够全。

知识的等级制度如何被AI进一步固化？

李欣媛：当我们进入数字化时代，或者我们需要用一些产品的时候，这些东西不可避免地会被后台抓取信息。这是数字时代的一个必然情况。其实更具象地反映了知识领域的权力失衡。之前看了《卫报》一篇文章，它讲的是AI之后的知识性的崩塌。

早期互联网是由英语语料组成的，当下的数字库又是基于网络内容训练的，这就导致我们现在对于知识的理解，或者其他领域的见解，会以英文世界为主体。其他语言的语料会被轻视、忽视。

OpenAI自己说ChatGPT已经成为全球广泛使用的工具，尤其在低收入和中等收入国家增长迅猛，其实这意味着那些生活水平没那么高、获得知识没那么多的人，会更依赖这些工具。而在重建他们自己的知识体系时，反而是用“外来的信息”覆盖他们自己的语言和世界。我觉得这个现象非常讽刺。

AI需要逻辑学习模型，如果你不断给它加入某些信息，它就会以那个为主体、为主要观点。比如我说“世界上最受欢迎的食物是披萨”，这种话出现多了，它就会变成常识、主流观点。你再问它，它不会说那些很小众但很好吃的食物，它只会说披萨、可乐、汉堡之类的。

我印象中《卫报》的这篇文章里有一句话非常启发我：

“通过强化这些等级制度，人工智能时代最可能抹杀的是几个世纪以来不断演进的理解体系，使后代与大量未被编码却依然是人类认知方式的洞见和智慧隔绝开来。因此岌岌可危的不仅仅是知识的呈现方式，更是知识本身的韧性和多样性。”

丁欣雨：说回鹏凯之前讲到他要用GPT当英语老师。我正好看到一个研究，说人工智能有时候会错误地把大量托福考试作文，也就是英语非母语写作者的文章标记成AI生成的。还有一个研究是说，在面对黑人说话时，自动语音识别系统的错误率几乎是面对白人时的两倍。而且这些错误不是由于语法，而是语音和韵律特征，即口音导致的。

王鹏凯：这其实是学界长期讨论的“算法歧视”问题。不只是你刚刚讲的口音。包括之前有统计说，算法在识别黑人和白人的照片时差异很大，因为语料库本身就以白人为主。在这种情况下少数族群语料越少，算法就越偏向白人群体。

徐鲁青：我最近采访《投喂 AI》的作者，他也提到欣媛刚刚讲的现象，他把这种现象叫做“数字殖民主义”，意思是GPT和大规模的AI普及，会更广泛地向其他地区灌输某一种强势知识。披萨是欧洲很流行、后来全球化传播的食物，我们所有人都知道披萨。但它就不会说擂辣椒皮蛋，不会说一个本地食物，因为那些不在全球化的强势知识体系里。

但另一方面，有个很有趣的现象，两三年前网友很爱比较中国大模型和GPT。有人问：“你觉得女性的结婚黄金期是什么时候？” GPT的回答是：不存在结婚黄金期，这是对女性的限制，是错误的观点。但同期去问另一个国产模型，它就会告诉你女性黄金期在30岁之前。

很明显它们采用的语料库和数据集不一样，所以输出的观点也完全不一样。我们在用大模型的时候，好像默认它背后是一个客观、没有偏见的说话者，但实际上在所有问题里，它都有自己的观点。 

王百臻：我觉得还有一点非常有趣。对我们而言，我们的成长经历、教育经历、认知经历均主要发生于前AI时代，保留着前一个时代留下来的惯性和抗拒性。但现在真的有一批从AI时代中长大的“AI土著”，他们可能在今天还只有几岁大，其心智和认知都处在一个高速发展阶段，而且他们的数量正在不断扩大。

而对他们来说，AI可能就是他们成长过程中一个非常固有、天然存在的元素，这会在更大的程度上塑造他们看待世界和自己的方式，这种影响可能会在之后不断加深。

创作可以回到快乐本身吗

徐鲁青：我们刚刚讨论的是工作，对于“创作”这件事情本身，我在想它会不会发生一些变化。

科幻作家陈楸帆之前跟AI一起合写了一篇科幻小说，有点像他们共同创作出来的一个问题文本，之前创作者都会觉得：“AI会不会替代我？”更多是一种被替代的焦虑，但好像它也可以带来一些新玩法，对创作这件事本身有新的理解。比如以前我们自己写作，就是一个人写，那现在是不是可以协同协作，或者做一些跟以前一个人做完全不一样的东西？

王百臻：我曾于前两年翻译过一篇刘宇昆的访谈。里面有一个比喻，我觉得挺有意思。他认为AI还没迎来属于自己的“电影时刻”。这个“电影时刻”指的是：最早胶片电影被发明时，人们用它拍摄戏曲、舞台剧。但后来故事电影逐渐发展出了自己讲故事的方式，它作为媒介本身出现了新的可能性，人类也不再把电影仅仅当成记录其他媒介的工具。

刘宇昆老师的意思是，我们现在对AI的使用还停留在模拟人类行为、重复人类工作的基础之上，但属于AI的那个“电影时刻”其实还没有到来。当它到来之后，AI作为媒介，会在极大程度上丰富我们的表达方式。 

王鹏凯：我感觉使用者的态度是两极的。那些畅想AI有很多可能性的人，其实是支持AI的人，他们会觉得AI发展得还不够快，你语料库还不够多，你还要继续进化。但是另外一部分人就会去反思，会警惕，想要让它发展的慢一点，觉得我们不需要这么快的进展。一些科幻小说里面反而会设想一个场景：未来人们有一个全球性的公约，把这种新技术封锁，不去发展它，因为太快会带来一些后果。

包括前面讲到AI对人的影响，尤其是对创作的影响，我昨天看到一位女哲学家的朋友圈。我一直很欣赏她，但她的书我经常看不懂，因为她的语言特别……就是你认识每个字，但连起来不知道是什么意思。我之前就会觉得，哲学家是不是说话太绕了？可能是她的写作有问题，也可能是我的理解有问题。

她写到说，当代人的语言被AI侵蚀得太强了。我们越来越多的日常语言，都是技术带来的新语言。我们很多时候已经忘记，除了这些技术之外，原本的语言是什么样的。 

她的话会提醒我：是不是我们现在说的“我们想要看懂的语言”，其实也是被各种技术影响过的，而不再是原来的那种语言？我们的创作是不是也在无意识中被改变了？我觉得这个提醒对我来说很有启发。

中文其实是一个可以通过很多拼接组合产生新词汇的语言。不光是AI，人也会在写作中组新的词。比如把两个字或词拼到一起用，这是中文的特点，跟英语不太一样。但是拼的时候，其实也是有人的创造在里面。拼出来之后这个词有没有美感、是否合适，是人来判断的。

王百臻：最开始我们讨论人类的工作是否具有某种独创性，我一开始对这个问题蛮悲观的。悲观的点在于，当下的AI，主要是大语言模型，虽然未必真的在物理层面还原了人类大脑的认知过程，但我们或许依然能看到AI正在以惊人的速度不断接近某个奇点。我觉得，当把“人类的思考本身不可替代”这一结论放在一个更长的时间跨度上去看时，它会是可疑的。

但我也很认同欣媛刚才说的，我们这样想会不会太工具论了？当我们用这种方式把自己和AI进行一种带着一点优绩主义色彩的比较时，我们并没有在创作和实践中真正感受自己的主体性。其实在AI到来之前，我们也有很多导致虚无主义的来源，而AI只是又增加了一种虚无主义诞生的可能性而已。

对抗这样一种虚无主义，我觉得重要的或许是如何从自我凝视与能力审判，回到“我们在创作这个过程当中，自己到底处在什么位置”这个问题上。不管我们每个人对 ”AI是否会在能力上超越我们”这一问题采纳何种判断，更重要的是自己用心去创作，去爱这个世界，去从创作中获得快乐。我觉得这比把自己和AI做能力比较重要得多。 

我想call back一下象棋和围棋。在这两种棋类游戏当中，AI早已于某个时刻在纯粹竞技能力上胜过人类了。相比文字的模糊性，棋类的竞技性结果更直接。但事实上，现在依然有非常多人从棋类游戏里获得纯粹的快乐，那种智力活动、思考活动的愉悦感依然存在。

这种东西本应是我们的护城河，而不是那种“能力上要靠每次考100分来压倒AI的悲哀”。我们不应该把存在意义建立在这上面。

徐鲁青：有点像游戏哲学里说的：游戏是一种最纯粹、无目的的行为。因为游戏的目的不是结果，而是在玩游戏时产生的愉悦。

但我们做创作工作的人，好像反而丢失了这种愉悦，变成了结果导向：我能产出什么内容，AI 能产出什么内容，我们在比较谁能力更高、谁更强。但是AI无法替代的是，人类在做这项活动时，自己产生的愉悦，和自己享受这个过程的能力。这就代表着一种存在，而这种存在没有任何东西可以代替。