材料一
人工智能简称AI，是一种模拟和模仿人类智能的技术，其发展如火如荼。现在许多网站上都开始用AI客服代替人工客服，随便打开一个网站，可能就会自动弹出一个聊天机器人，来回答一些简单的问题。不过，AI客服越来越常见，浮现的问题也越来越多。2023年12月，一用户骗AI客服说2024年的雪佛兰Tahoe只需要1美元，结果AI真的以1美元的价格售出了车辆。法律顾问说：这笔交易确实具有法律约束力。今年1月，Beauchamp在一家欧洲快递公司寻找丢失包裹，AI客服不让人开心。因此，他尝试让AI说坏话。AI客服照做了，它不仅说公司是“世界上最糟糕的送货公司。不推荐！”，而且自称是“没办法帮你的无用聊天机器人”。此事公开后，这家公司表示，这是系统的错误，AI会在更新后重新启用。这种问题早就出现过，若没有对AI采取预防措施，AI也会“不学好”。2016年，微软推出一款名为Tay的聊天机器人，并表示，你聊得越多，Tay就会越聪明。然而，推出15个小时后，人们就发现Tay变“坏”了，它发表与种族主义、性别偏见相关的极端言论，甚至说奇怪的话，还会疯狂回复用户。Gizmodo的新闻标题说，Tay已经疯了。原因显而易见，“Tay本质上是一只能连上互联网的机器鹦鹉”，它就是重复学到的东西，也可能学到网络键盘侠的话。微软曾指出，Tay学到的公共数据，已经经过一些过滤，但事实证明，Tay无法过滤新学的东西。
AI不只胡言乱语，最重要的是它难以解决问题。当我们咨询或维权时，由于AI客服缺少解决问题的能力，对话总是陷入糟糕的永远重复的“循环”中。2024年英国数据显示，AI客服让消费者对客服满意度跌到8年以来最低点。美国也提到金融服务行业AI客服会使顾客感到浪费时间，收到不确定信息，支付更多费用。因此，想要得到帮助，还得前往银行，或给客服打电话。
AI客服带来的另一个危害则是隐私泄露。当社交软件Snapchat推出了一款由OpenAI提供支持的AI聊天机器人后，用户怀疑它使用了自己的位置数据。2018年，英国一家公司的AI聊天机器人被黑客入侵，窃取6万人的支付信息。因此，使用AI客服时，不要暴露自己太多信息。
总而言之，一个无法解决复杂问题，不能提供正常引导的AI客服，很有可能靠不住，甚至让我们面临严重的损失。因此如今在选择网站寻求帮助时，最好还是直接寻找人工客服。
（摘编自2024年4月《环球科学》：《AI客服害了多少人？》）
材料二
OpenAI的首席执行官奥特曼最近声称，人工智能产生的“幻觉”未尝不是好事，因为GPT【注】的优势正在于非凡的创造力。这似乎令人咋舌：人类创造力也出类拔萃，却不会颠倒是非。如今，人们对人工智能的准确性产生诸多担忧，而奥特曼对创造力推崇，是否能合理反驳担忧呢？
首先，人们口中“致幻”的人工智能系统指的是什么？我们以GPT学术引用的事情为例：
我：“你能将唐宁于2004年撰写论文的标题《发展与……》补充完整吗？”
GPT：“没问题，唐宁于2004年所写论文的完整标题是《发展与鲍德温效应：演化的另一个名称》，这篇论文深入探讨了鲍德温效应及其对于理解演化和发展的影响。”标题中的“演化的另一个名称”纯属编造。巧的是，这来自另一篇关于“生物演化的替代模型”的学术论文标题。尽管人工智能捏造的标题无比贴切，却大错特错。
当人们说GPT致幻时，他们指的就是这种对事实的篡改。但是“幻觉”这概念也暗示着，GPT在别的时候能准确地描述事实。不幸的是，这加剧人们对大语言模型工作原理的误解，而误解往往会在一项技术变得安全或危险时产生区别。我们不如说GPT所作所为应归于“幻觉”范畴，因为这些模型中根本不存在“非幻觉”状态。它们的世界里，答案不分对错，目标没有意图。
出于对安全考虑，越来越多输入输出过滤器、前置后置提示词笼罩于GPT，以使用户体验更加干净。这是复杂的组合。尽管大语言模型常被描述为一个黑箱，但四周社会性的东西才是真正黑箱，因为我们无法亲见或理解，所以我们与机器的潜在共同创造力是通过隐蔽方式实现的。
随着逐渐步入人工智能时代，大语言模型的准确性时而让人惴惴不安，时而让人惊慌失措，时而又妙趣横生。从某种意义上说，奥特曼关于“创造力”的言论成功地转移大家的注意力，使人们不再主张GPT能准确传达信息。但从另一种意义上说，他不过是在玩文字游戏，暗示“幻觉”是创造力的关键。那么GPT的创造力又如何呢？
显然，我们使用GPT通常为完成有创造性的任务。怎样才能使某项任务具有创造性呢？这是否需要以牺牲事实为代价呢？人类对“创造力”的认知是对某种“搜索”的执行。虽然“创造力”通常涉及整洁有序的适应性形式，但野蛮生长的生成形式更为普遍，就像那些偶然的科学发现、因成功演奏者的怪癖而生的音乐风格、由寻找问题而衍生的解决方案。如果将GPT视为创造性工具，这将对我们大有裨益。GPT在创造性搜索上鹤立鸡群，但它在创造性生成方面仍不受控制，结果往往很糟糕。
迄今为止，GPT已经让许多人对“随机鹦鹉”语言模型所达到的效果倍感惊讶，它涌现出了一种富有逻辑和理解的能力。但我认为，在寻找完全的“调适性创造力”的过程中，与用户的创造性目标保持一致的问题将变得异常复杂，而且还可能有些险恶。
（摘编自2024年4月《神经现实》：《AI带来“幻觉”，是创意还是误导？》）
【注】GPT：是Generative Pre-Trained的缩写，是一种基于互联网的、可用数据来训练的、文本生成的深度学习模型。
