人工智能“伪造”新书公然售卖 作家回应：情况会越来越糟

　　财联社

　　本周，知名作家简·弗里德曼（Jane Friedman）发现，亚马逊上有以她的名义出售的新书，只是这些书不是由她所写，而是由人工智能（AI）伪造的。

　　弗里德曼告诉媒体，一位眼尖的读者想要阅读更多她的作品，就在亚马逊上买了一本新书。这本书的标题与她以往写的主题非常相似，但文字内容像是有人在用生成式人工智能来模仿她的风格。

　　她表示：“当我看到这些书，看开头几页，看简介时，对我来说很明显，大部分内容都是由人工智能生成的……我在网上有很多免费的内容，因为我一直在写博客，所以让人工智能模仿我的风格并不难。”

　　ChatGPT等人工智能工具现在能够快速、廉价地产生大量令人信服的文本，一些作家和作者对此已经发出警告，他们担心自己的工作会被这项新技术抢走。还有一些作家则表示，他们不希望自己的研究成果被用来训练人工智能模型。

　　非营利作家倡导组织作家协会的首席执行官玛丽·拉森伯格表示：“生成式人工智能正被用来取代作家，在未经许可的情况下获取他们的作品，然后将这些作品纳入这些人工智能模型的结构中，最后将这些人工智能模型提供给公众，提供给其他公司，用来取代作家，所以你可以想象，作家们对此会有些不安。”

　　上个月，美国立法者会见了包括作家协会在内的创意产业成员，讨论了人工智能的影响。在参议院小组委员会的听证会上，拉森伯格呼吁制定立法，保护作家免受人工智能的影响，包括要求人工智能公司在训练模型的方式上保持透明。

　　另外，包括玛格丽特·阿特伍德、詹姆斯·帕特森和强纳森·法兰森等1万多名作家签署一封信，要求微软、Meta Platforms和Alphabet等公司领导者不要在未经许可或未支付报酬的情况下使用这些作家的作品训练人工智能系统。

　　信中提到：“数以百万计受版权保护的书籍、文章、散文和诗歌为人工智能系统提供了‘食物’，这些无穷无尽的‘大餐’却没有任何账单。你们花费数以十亿美元计的资金开发人工智能技术。你们使用我们的作品应该支付补偿，这样才是公平的，没有这些作品，人工智能将是平庸和非常有局限性的。”

　　日益严重的问题

　　弗里德曼本周在X平台上发表了一篇引发广泛讨论的帖子以及一篇关于这个问题的文章。几位作者回应说，他们也有类似的经历，并担心这种情况会越来越糟糕。

　　一位作者回应道：“人们总是告诉我，他们买了我的新书，上面有我的名字，但这真不是我写的。”

　　亚马逊下架了以弗里德曼的名义出售的假书，并表示其政策禁止这种模仿。

　　亚马逊发言人在一份声明中表示：“我们有明确的内容指导方针，规定哪些书可以上架销售，一旦出现问题，我们会迅速调查任何一本书。我们投入了大量资金，以提供值得信赖的购物体验。”

　　当被要求详细说明违反了哪些特定规则或政策导致人工智能生成的内容被删除时，亚马逊拒绝进一步置评。弗里德曼表示，她相信社交媒体上日益增长的强烈反对导致了电子商务巨头的逆转。这对她来说是个好消息，但对其他缺乏她同等知名度的小作家来说，这不会是什么安慰。

　　作者协会指出：“盗用作者的名字通过亚马逊出售伪造书籍并不是什么新鲜事，但随着人工智能生成内容的出现，情况正变得越来越糟。”