原作：本·乌兰西
引子：绘画中减色混合的原理
当我还是个孩子的时候，我坐在一个有各种颜色的调色板前，努力尝试混合尽可能多的颜色。怀着兴奋的眼神，我看着鲜艳的颜色在画面上融合。随着越来越多的颜色相互融合，我困惑地盯着由此产生的聚合体。我添加的颜色越多，它就变得越不有趣。每个颜色的特性都在沉闷的单调中消失了。
“为什么如此多样的颜色组合起来会变得如此平淡无味？”我想知道答案。
当多种颜色混合时，许多人可能会惊讶地发现，结果通常只不过是浑浊的棕色或灰色。但这根源于颜料吸收和反射特定波长的光的方式。理论上，原色组合后应产生黑色，因为所有的光被吸收。
然而，由于现实世界颜料的不完美，我们通常会得到不同深浅的棕色。当太多颜色融合在一起时，每一个颜色都变暗。每个颜色的独特效果变得不那么明显，它们在混合中失去了自己的特性。
在AI模型中，存在着数量巨大的变量因素。在OpenAI，有超过 100 万亿个参数（本质上是公司在幕后调整的旋钮）来决定ChatGPT用户的体验。随着每次重大更新，越来越多的参数被引入，以提高产品的性能。
ChatGPT-4使用了3千亿字的文本、书籍和文章作为其生成用户内容的数据集。它的数据集包含了数千位作者，它可以利用的知识比我们任何一个人一生中所获得的还要多。然而，无论给它什么样的写作任务，ChatGPT生成的文字都带有公式化的品质。
无论它处理的是什么主题，AI写作都有一种令人生硬的成分，人们开始对此有所敏感。一旦有了预期的表现，几乎不可能忽视。如果你给外星人喂一堆 YouTube 和纪录片，然后突然告诉它“表现得像人类一样！”对于大多数人来说，看到披着羊皮的外星人并不难。
试图将一百万篇文章合成一个声音几乎必然会导致某种平淡。讽刺与悬疑、小说、幻想、诗歌以及所有可以想象的散文的混合不会最终成为一部值得一读的作品。恶搞将抵消情感，新闻报道会削弱描写力，它所包含的描述只不过是其他人精心制作的细节的副本。从其他作者那里继承下来的缩小图像，并浓缩成数据点和代码的概要。
因此，也许并不奇怪，当语言模型被要求写作时，其语调和词汇的可预见性几乎有些滑稽。它们没有灵魂地开头，但谈论它们将要“深入探讨”的主题。它们高调地谈论“编织挂毯”和“探索思想”。它们对所“深入研究”的主题和它们各自代表的“马赛克”充满了虚假的诗意。
ChatGPT 可能会以普人认为新颖的方式将概念“并置”在一起。但模型无法发明表达想法的新方式。它们完全受限于自己在训练数据中看到的模式。他们选择安全、成熟的交流方式，而不会开辟新的路径。
但它们有其价值所在。虽然 ChatGPT 还无法创作一部自己设计的小说，但它可以有意义地谈论一部新小说，可以进行超出自身知识库范围的思想交流。当首次接触到一本回忆录时，它可以对其内容进行反思。只是它不能在以后的对话中引用这些信息。如果它试图同化我们的语言，我们的语言就会失去其独特之处，它们将变得像棕色油漆中的一滴。
然而，图像生成软件可以制作出散发出某种美感的色彩混合物。即使仅限于灰色调，它也能组装出值得再次审视的作品。很难否认其中的一些创作具有明显的艺术性。
但在最好的情况下，它仍然无法比已经创建的巨大资源库做得更好。简单地称之为平庸是不公平的，但说它是新颖的也不准确。它的每一笔艺术性都是归功于某个匿名作者。它因其工作而获得荣誉与剽窃博士论文的罪行一样。
生成式人工智能的魔力在进一步审视下很大程度上会失去光芒。虽然对于这项技术未来有什么样的担忧确实存在，但我不确定这是否会像我一年前担心的那样。但很难否认的是。我们已经看到一波骗局、诈骗、深度造假和混乱正在向我们袭来。我们的基础将如何承受这一打击，只有时间能告诉我们。
毋庸置疑，人工智能可以替代大部分作家。对于那些除了写关于“洛杉矶六大豪宅”和“整容手术最糟糕的十位名人”之类的文章之外没有更多贡献的人来说，作为作家的日子已经不多了。但对于那些以新颖的人类思想为中心的写作来说，他们会在嘈杂中脱颖而出。
我们不仅仅是AI可以借鉴的数据点。我们拥有自己的思想和经历。除非我们允许AI访问我们的大脑，否则我们拥有的记忆和我们所创作的新故事将始终具有无法简单模仿的人类特征。我们的话语有灵魂，这种灵魂不会转化为一个只有 1 和 0 的世界。
理解词语的定义并不意味着能深入体会它们引发的感觉——以某种模式组合在一起时所传递的精确含义。有些感受是超越言语的。除非我们创造的人工智能发展出灵魂，否则我们的句子将具有超越其部分之和的情感和风味。它们不仅仅意味着一系列空洞的定义。
AI还无法解开词语在艺术层面上的提升。它无法辨别为什么一组特定的词语比它们的同义词更有意义。语言中存在着任何数据点集合都无法传递的人类成分。
