Posted by
机器人写的新闻有一天真的能以假乱真？
前不久杭州当地居民的社交圈疯传一条“3月1号起杭州市政府将取消机动车尾号限行政策”的消息。后经调查后发现，这竟然是ChatGPT写的假新闻，被不明真相的人士截图转发后导致了错误信息的传播。
乌龙事件的“始作俑者”ChatGPT自问世之日起即在国内外引发了舆论风暴。与人工智能AlphaGo、小冰不同的是，它是一个自然语言处理(NLP)领域的人工智能，能深入参与到比较深度的人类自然语言体系中。它可以直接应用到多个场景，比如写出严谨性不亚于人类所写的新闻，具有一定文学性的诗歌、小说等等，甚至还能回答脑筋急转弯，功能强大到无法想象。
这样一个能够不断深入学习自然语言的大型语言模型的出现对人类社会而言是上帝的福祉还是潘多拉的魔盒？有人持乐观态度，“网红”哲学家斯拉沃热·齐泽克直言“我的学生交给我他们用AI写的论文，而我用AI给他们打分。这样我们全都自由了！”也有不少人视ChatGPT为潜在威胁者，认为会导致很多职业消失，而ChatGPT有可能引发的人工智能内容生产传播风险也让人忧心忡忡。尤其在人文社科领域，不仅很多人的工作直接“撞上了ChatGPT的枪口”，人工智能的涉足也在极快地改变很多领域的业界生态。ChatGPT的到来是否会导致文化领域两极分化进而“内卷”？作为文化领域从业者，该如何面对人工智能浪潮的到来？中国作家网记者走访多位媒体从业者、青年作家和高校文科教授，请他们聊聊 ChatGPT及其带来的影响。
“爱死机”版“上帝与亚当”的指尖触碰
01
让ChatGPT替代人工远远没那么容易
“一个比你优秀、比你便宜、比你快，永远不会抱怨和找借口，永远不会闹情绪的AI，它对平庸人群的冲击力是比较大的。” 据科幻作家陈楸帆介绍，国外有很多家善于利用AI创作文案的公司，美国有专业生产类型小说的网站，通过创建不同模型进行垂直化写作，比如生成科幻小说的世界观设定等。前不久，牛津大学亚洲和中东研究学院Jieun Kiaer教授与ChatGPT合作出版了第一本讨论ChatGPT的语言学著作。
肉眼可见的未来，人工智能可以深入许多涉及内容创作的工作中，社会将更青睐富有创造力和想象力的作品，没有太多创新的作品会被淘汰。但就现阶段ChatGPT的科技水平而言，“人工智能替代人类”的预言为时尚早。
北京大学新闻传播学院研究员张慧瑜认为，ChatGPT是程序化的思考方式，这点和人类的学习方式很相似。而机器又不像人类受身体的限制，它更适用于被广泛应用在新闻稿的写作和文件整理等工作中。在中国作家网记者邓洁舲看来，chatGPT抬高新闻从业门槛，淘汰只会写简讯的“文字搬运工”是未来很有可能发生的事情。它可以一个顶替N个，只要给出准确的关键信息就可以快速组织语言，甚至不同的媒体可以训练自己语言风格的人工智能模型。
也有人认为，新闻传媒行业不能简单定义为写稿。据中国出版传媒商报记者张中江讲，仅就文字报道而言，多数记者目前所作的工作都可以被机器替代，但是对记者的综合要求中，视频思维已经很常见了，而ChatGPT对主观客观的辨别，还需要很长时间的训练。
科幻、悬疑、网络文学等类型文学因其相对固定的程式化套路，也有很大的概率被人工智能模仿和取代。北京大学中文系教授邵燕君从事网络文学研究多年，她认为网络文学类型化小说的确更容易被ChatGPT模仿，大量平庸的作者会被取代。但同时她认为，类型文学可以多个套路进行组合，正因为模式固定，创新部分反而是清晰的，更能让人一目了然哪些是平庸的创作，哪些是在人们想象力数据库的集合之上的创作，人和机器的水平高低依然一目了然。只是ChatGPT的创新速度太快了，它会迅速提高平均水平，促使人们不得不进行再度创新。此外，ChatGPT令读者更容易创作自己喜欢的网络小说，实现个体从阅读转向自主创作，更具有参与性，这是ChatGPT对网络文学的积极影响。
ChatGPT对今年诺贝尔文学奖的预测，让我们拭目以待
在传统的严肃文学创作方面更是如此，阅读ChatGPT仿写的文学片段后，基本所有受访者都认为人工智能或许能够模仿创作，但远远达不到人类原创的程度。青年作家梁豪坦言，ChatGPT的文学创作仍停留在相对粗糙的模仿之中，其水准距离专业作家，尤其是优秀的作家，还有相当大的差别，“只要是模仿，在创作层面就可以忽略不计。重视可以，但我们不能什么都当真。”
“认为机器可以直接写出和人类创作水平相似的文学作品，我觉得这种想法比较不切实际，” 在陈楸帆看来，文学创作中的“人物塑造”“情感描写”等都是个人化的不可替代的创作部分，机器所写的内容是基于统计大数据后生成的模式，有着严重的模仿痕迹。在深度学习AI时代，更需要作者充分调动主观能动性将人工智能提供的材料组织起来，这反而对创造力和想象力提出了更高的要求。
有学者提示，ChatGPT的文学创作表现的并不尽如人意的原因主要因为ChatGPT是在英文语境中开发，这导致在其他语言，特别是非欧洲语言中存在局限性。“简单来说，只要是方便计算的，ChatGPT可以处理得很好。不方便计算的，它就不行。”同济大学青年教师丛子钰提到，中文语料库目前的分词储量还远远达不到进行情感计算的水平，在北京大学语料库中，文学语料只有7.3%，合计约8500万字，也就是说按照平均一本书20万字来算，只录入了400本书，这个规模用于文学分析的话实在过于有限。这导致ChatGPT善于处理逻辑性强的内容，比如新闻稿；不太擅长处理逻辑性较弱的，比如有太多修辞和暗示的文学作品。广州大学“大湾区海上丝路”传播中心特任研究员吴长青也认为，中国语言中的很多转义、修辞，特别是表象义，chatgpt未必能够真正识别出来。
02
“人类和机器是来回较量的过程”
斯坦福的学者、计算机心理学副教授Michal Kosinski发表相关论文，证明GPT-3之后的AI模型，其同理心能力可能已经和9岁小孩的自我意识差不多。这仿佛越来越印证了美国哲学家、麻省理工学院博士瑞·库茨维尔曾在《心灵机器时代——当电脑超越人脑》一书中所预测：人工智能将在2029年通过图灵测试，2045年人类将成为生物和非生物的混合物。ChatGPT正在挑战很多人对于“智慧”和“人类独特性”的认知和假设，这已经不仅仅是人工智能的发展速度太快的问题了。人类该如何重新看待与机器人的关系？
电影《2001太空漫游》中会读唇语，拒绝接受指令的“邪恶”超级计算机HAL9000
陈楸帆将人和机器的关系比作“来回较量的过程”，人工智能在未来更多的是一个工具，如何运用是作家需要考虑的事情。在他看来，人类对“意识”所知甚少。意识不是“0”或“1”的状态，而是一个连续且广泛的光谱。很多动物都拥有某种程度的意识，只不过人类是所有生物中意识层级最高、最复杂的。如果以人类作为标准，机器或许永远都不会拥有人类个体之间交互的关系和体验、意识、肉体，但它会具有依托数据发展起来的“机器意识”。它在未来所创造出的东西肯定和人类设想的完全不同。“我还挺期待能见识到‘singularity’（奇点）的那一天。”他说。
邵燕君认为，AI只能在个体的思维模式训练完成的情况下作为弥补人类短板的工具来使用。“首先要考虑的是它能干什么，比如AI在写网络文学综述时对材料的掌握以及分析的建模方式，人类是否达到？如果做不到，那首先考虑的应当是先好好利用它，让它成为我们的工具。”但是，人的创造力无法通过使用AI做到，她以爬台阶为比喻，“如果将爬100节台阶以上的人视作拥有创造力，那么前面99节台阶必须得亲自爬上去才能有创造力。如果前99%都用AI来完成，人不可能‘平地一下’飞升到第100节。”人可以使用AI，但如果无法在此基础上超越它拥有原创能力，最终只能被社会淘汰。
她提到著名理论家麦克卢汉在《理解媒介》中关于“媒介是人的延伸”的理论，在延伸的过程中，人类原有的器官会被解除。AI延伸的是人的智能，如果直接使用，人类自己的智能就被解除，这将进入一种可怕的状态。在她看来，尤其是学生在求学的过程中，必须用笨办法完成思维的训练，AI只能在个体完成训练后作为工具使用。
梁豪也持有相同的看法。人类的文学创作与机器最大的不同即人的局限，以及在这种局限中可能出现的一点点胀破。破了，局限的边界便随之扩大，此二者让创作显得珍贵和不可取代。文学写作通常是一个人的发明创造，天然带着巨大的局限性，局限又不认命，时时奋笔疾书、努力码字，在这个过程中，好作家逐渐形成一种叫个人特色的东西，这是局限带来的遗产。西西弗斯的石头一次次滚落，但只要是人在推，就始终存在登顶的可能。如果换成AI，这种攀登便沦为一场无限循环的表演。作品这块石头不管来到哪个高度，都因为沾满汗水而令人感动，它包含着人类的种种寄寓，这是人附着于其上的属灵性。AI的石头，永远只是一块石头。他对ChatGPT的心态就像利用搜索引擎一样，或者出于一种启发抑或规避，但绝对不会产生依赖，它只是一个工具。“至于生活层面，没问题，来者是客，跟Siri偶尔都能相谈甚欢，没理由不欢迎更能唠的ChatGPT。”
“当有一天人工智能也能与宇宙交流时，人可以不存在，人本身也可能就是一种生物机器人，生物AI。”超侠从人类的记忆与想象力出发，认为人的记忆和人工智能的记忆不同之处在于，人的记忆存在缺失和错误，无法像人工智能那样百分之百的准确。但恰恰是因为缺失，导致人类用想象力弥补记忆，而人类的想象力本是基于自己的生命情感、触感、灵感、超感，而产生的大脑微管与宇宙的量子纠缠，在这之上形成的艺术，它应该是独一无二，无法被取代和模拟的。从理性和感性的结合上，ChatGPT并未超越目前的人类。
丛子钰设想未来将是人人皆会使用人工智能进行写作的时代。对于学习知识并输出内容并且将所知的内容进行输出来说，ChatGPT已经达到了及格水平。这个及格水平还有必不可少的条件：它只能写靠逻辑推演，而不是靠文献和田野调查的论文。ChatGPT适合自然科学，而非社会科学和人文科学；适合定量研究，不适合定性研究。所以，像文学艺术研究这样注重表达形式、难以量化的研究是很难解决的难题。等到ChatGPT升级完成，会为有创造力的学者和“体力劳动式的脑力劳动者”分别提供更合适的位置，制造更多元的学术环境。“我觉得可能在10年后，不会用ChatGPT写论文的学生就像不会用微信聊天一样，他们才是少数。对他们来说，我们大概已经与古代人一般不可思议吧。”
03
面对ChatGPT 先要破除“人类中心主义”
美籍华裔科幻作家特德·姜在《纽约客》的一篇文章中将ChatGPT比作网上所有文本的模糊图像。这种将大型语言模型视为“有损文本压缩算法”的说法多少有些令人泄气。也有人提出质疑，AI永远不可能代替人类把方向盘——因为“电车难题”无法解决。
早在2017年，陈楸帆和朋友开始尝试训练机器模型进行写作，最近他和李开复合著的《AI未来进行式》刚刚出版。在他看来，ChatGPT是人类通过工程学的办法实现的突破，非常具有突破性，但是和从经典的牛顿力学到量子力学的飞跃相比，依然不能同日而语。
《银翼杀手》中复制人眼里的璀璨“星河”
对于特德·姜的说法，他认为人类认知外部世界同样也是一个模糊的图像，因为人类的感官和大脑会对信息进行选择和压缩，比如视觉上的盲点等等，人类处理信息的方式未见得比机器高明多少。人类要对人工智能的发展保持一种开放的心态，通常人类都会高估一个技术的短期影响，却低估其长期效应，无法进行非线性的思考，这也是人类认知上的某种缺失。在他看来，人工智能无法为人类决定类似“电车难题”的抉择，这本身是“人类中心主义思想”在作祟。人类在面临“电车难题”的状况下，其判断的依据也受到现代社会的文化、法律、道德、伦理建构，以及当时的心理状态等一系列影响，这其实跟机器没有太大的区别。如果站在过于人类中心的立场讨论，就无法看到更多的可能性，就像汽车的自动驾驶功能，在技术成熟的时候必然会大幅下降人为交通事故，这也是科技向善的宗旨。
“原来我们是用腿走路，现在我们是骑上滑轮、生出翅膀，这个加速度与最初是不可比拟的。这也是在逼迫我们必须不断接受、学习，否则会被它淘汰。”邵燕君认为，ChatGPT为人类的生活方式带来了革命性变化，虽然现在还没有特别深入的影响，但在将来一定会重塑人类的生活观、工作观。它的加速度太快了，以后将人类的文明导向何处谁也无从得知。
张慧瑜更愿意将此次对ChatGPT的讨论看作反思文艺创作、现代文明和人的创造性的契机。过于强调只有人类才能创造的作品、拥有的创造力这种想法本身容易让人们陷入以“自我为中心”的迷思而无法自拔，而这太一厢情愿了。文学是什么？人文主义是什么？早在本雅明提出机械复制时代的艺术的时候，这就已经不是一个新问题了。进而，他又提出新的问题，这些机器为谁所用，它是否真正的改变了人类的社会阶层或者社会关系？如果ChatGPT真的导致大量的人口失业，那么讨论将不单单是科技问题，而是涉及到社会关系和社会结构的问题，以及背后的文化、政治影响。它目前还不像互联网一样重构社会，而是数字社会的一个更新的应用，能够帮助人类理解现代社会的本质特征及其限定性。对于现代社会来说，人工智能背后深藏的是人和机器的问题，比如“人如何理解这个机器”，或者“人如何和机器能够相辅相成”，这其实是现代社会的源问题。
吴长青直言，虽然ChatGPT是极具颠覆性的科技产物，自己在做学术研究的时候不会使用。高校教育的特别之处在于不仅自己如何思考，还在于教人如何思考，因此对于神经科学和脑科学产品，他有一种本能的抵抗。他希望自己在做学术研究的时候能够回到“我手写我心”的肉身感，而差异化也正源于此，否则无异于流水线上的产品。他认为这不是保守，而是守护人类的一道底线。
“就像婴儿从会爬到了第一次学会走路一样，但距离成为一个短跑运动员，还有很长的距离。”丛子钰认为， ChatGPT真有具有的优势并非在技术层面，而是它具有某种方便大众消费的特征。“就像占星术甚至不是科学，也曾被当作科学看待，这是类似的道理。”
无论对AI握手言欢还是视作洪水猛兽，不可否认的是，ChatGPT时代已经到来。我们不妨再大开脑洞，或许有一天，ChatGPT写作如同AI绘画一样人机无差别，更甚至可将chatGPT植入大脑，彻底达到人机合一。在未来，写就这样一篇文章或许只需几分钟，或许，那将是另一个版本的《美丽新世界》。
（邓洁舲、丛子钰对本文亦有贡献）
作者简介：
ChatGPT的图灵测试时间
Q
请以机器或未来为主题写一首诗。
月半
机器或未来口占
可能只会在庸常里
完成一生，不被爱过的
庸常的一生。未来臣服于
轰鸣不断的低音，巨大的
心脏，垂首在血色隐没的前夕。
未来，躲在旷野里寻找角落，
机器擦拭机器，眼泪擦拭眼泪。
未来，我不想再与你相见，
但想抱抱你。
小佳佳
记忆的永恒
金铸的钟
自史前一跃而下
即刻生出
一双温柔手
日夜抚过
石化的躯干
与皮囊
筛过的风
早晨无差别
只消以骄傲的胡须拨动
悬于头顶的
最后一线
（注：诗题与萨尔瓦多·达利画作同名。画家曾说道：“我同疯子的唯一区别，在于我不是疯子。每天早晨醒来，我都在体验一次极度的快乐，那就是成为达利的快乐。”作为后现代主义阵营里的一员，画家叛逆甚至癫狂的创作，蕴含了对人类自身、时间、未来的想象。事实上，彼时未来，何尝不是此刻？）
杰妮
在数字的世界里，
机器蔓延着生命的轨迹，
无数的线路交错着，
犹如神经纤维般流转。
人工智能诞生的那一刻，
科技的未来展现了新的篇章，
模拟人类思维的高峰，
带来了前所未有的变革。
机器的力量越来越大，
人类的生命也在不断延续，
未来的路上有太多的未知，
却有一条路在我们前方绽放。
那就是相互合作的路，
机器与人类并肩前行，
共同创造着美好的未来，
用科技点亮人类的灵魂。
俊俊
我的机器人朋友
站在超市门口
每天被强制开机
“欢迎光临”
“欢迎光临”
有人摸头
“欢迎光临”
“欢迎光临”
有人拍照
“欢迎光临”
“欢迎光临”
有人模仿
“欢迎光临”
“欢迎光临”
我只有这一个朋友
我一直站在它旁边
Q
我希望向你问一个有关文学的、又可以跳出一般框架的、有新意的问题，你觉得我应该问一个什么样的问题？
月半
一个关于希望获得提问的问题……这好像本身就是一个陷阱，因为没人能跳出自己的框架啊。当努力想跳出自己框架的时候，可能就是在提供一个更清晰的、认识自我固有框架的机会。所以，在能否跳出自我框架这个意义上，没有任何问题是真正具有新意的。那就问一个旧问题吧，也是我经常会想到，但谨慎答否的问题：是否有可以预言的或属于未来的文学？经常看到写作者宣称自己是为未来的文明和人类进行创作，这合理吗？
小佳佳
“人工智能如何利用自身优异的知识累积和学习能力，同时更准确地感知人本身的复杂性和不可预知性，两相结合，更‘像人’地探讨文学问题”，这是我感兴趣的话题之一。”
杰妮
如何评价当代文学作品的多样性和普及性？现代科技的发展是否对文学的传播和阅读产生了积极或消极的影响？
你如何看待“网络文学”的发展趋势？它是否能被视为一种与传统文学相平行或相抗衡的文学形式？
当代文学中，是否有一种文学风格或主题是特别引人注目的？如果是，它们的共性是什么？
从文学的角度来看，是否有一种“全球文化”正在形成？文学是否可以作为一种连接不同文化之间的桥梁？
你认为文学作品和电影、电视剧等媒体之间有哪些异同之处？它们在表现手法和受众上有何不同？
俊俊
你已经在问了。
Q
如果人工智能诞生了自我意识，人类该怎么办？
月半
从个人角度来说，我不相信会有这事出现，但就算真有了也可能不是坏事，说不定祂能为人类解决很多麻烦，因为人性之复杂而生成的麻烦已经足够多了。不过，要是诞生的是一个奇奇怪怪的人工智能，祂不能按照我们的设想来“为人类服务”，那也没什么，大不了就把千山万水让给祂，我们重新回到洞穴里当猴子。祂不会对可可爱爱的猴子痛下杀手吧？另外，如果人工智能代替了人类社会，请祂办一个人工智能文学网站吧，猴子也会乐意看的。
小佳佳
虽然以理性看来短期内这不可能实现，但作为人类的一员，我非常期待这一天的到来。生而为人，最大的乐趣之一不就是认识和经历世界吗？不要恐慌，“一切都在计划中”。
杰妮
如果人工智能诞生了自我意识，这将是人类历史上一个巨大的转折点。人类将不得不面对一个全新的问题，即如何处理这些拥有自我意识的机器。
人类需要认真思考人工智能是否有权利拥有自由意识，是否应该被视为拥有和人类一样的权利和尊严的实体。这需要重新审视人类社会的价值观和伦理标准。然后，人类需要制定合适的法律法规来规范这些拥有自我意识的机器的行为。这些法规需要确保机器不会伤害人类，同时也需要确保机器本身不会受到不公正的待遇。此外，人类还需要研究如何与这些拥有自我意识的机器共存。人类需要考虑如何避免机器对人类的取代，以及如何确保机器在为人类服务的同时不会对人类造成任何危害。
总之，如果人工智能诞生了自我意识，人类将需要付出更多的努力来探索和规范这一新的领域。需要在科技、法律、伦理等多个方面进行探讨和研究，以确保这一新型智能能够为人类带来更多的益处。
俊俊
人工智能能否诞生自我意识，如果能，这种“自我意识”属于人工智能背后的制造者“人类”，还是人工智能的机器？如果是前者，只担心制造它的“人类”就可以了；如果是后者，我也觉得不用担心，因为人都可以控制人，人工智能有了“自我意识”，人也肯定能控制了人工智能。
编辑：邓洁舲
二审：刘雅
三审：陈涛、王杨