DeepSeek“胡编乱造”，我们还能信任AI吗？
AI在日常工作与生活中的渗透
AI的广泛应用
如今，AI已经深入到人们日常工作和生活的方方面面。无论是搜集资料、制作PPT，还是修改论文等工作，AI都能成为人们的帮手。在生活中，人们也会使用AI来获取各类信息，例如推荐特产店等。它的出现给人们带来了便利，让很多任务能够更高效地完成，人们也逐渐习惯在很多事务上依赖AI。
AI带来的潜在威胁
AI的广泛应用也带来了潜在威胁。尽管AI暂时还不能完全替代人类，但已经让人们产生了工作可能被取代的担忧。而且，更严重的是，AI输出的内容可能存在大量错误，这些错误信息隐藏在看似充足的数据和论据背后，一旦被使用，可能会造成不良后果。
DeepSeek及其他AI胡编乱造的实例
学术与工作中的错误
在学术和工作场景中，AI胡编乱造的情况屡见不鲜。像大学生薛云在查询诗句出处时，DeepSeek给出了完全错误的答案，并且多次答错。自媒体工作者雅雅在搜集造纸史资料时，DeepSeek提供了无法考证的信息。还有网友发现DeepSeek在甲骨文研究、法条等内容上也会编造信息。
日常生活中的失误
在日常生活中，AI同样不可靠。B站的UP主向DeepSeek询问汕头手信店，得到的推荐店面根本不存在。这些例子都表明，无论是在重要的学术、工作事务中，还是在日常生活小事上，AI都可能给出错误信息。
AI胡编乱造的原因及影响
产生胡编乱造的原因
AI出现胡编乱造的情况是由多种因素导致的。从技术原理固有特点来看，其生成内容的方式可能导致错误。训练数据也存在局限性，如数据过时，未涵盖新知识，就可能编造答案；数据存在偏见或错误，AI会继承并放大；面对知识盲区，AI倾向于填补空白而非承认未知，且多数无实时验证能力。
造成的严重影响
这种胡编乱造会带来严重的影响。在学术领域，可能导致错误知识的传播；在工作中，可能会造成工作失误；在生活里，会误导人们的选择。更严重的是，这些错误信息如果被二次加工、援引和传播，会让“后真相时代”面临更大挑战，甚至还可能引发法律问题等不良后果。
应对AI胡编乱造的方法
普通用户的应对措施
对于普通用户来说，可以采用一些方法来应对AI的胡编乱造。例如优化提问技巧，让问题更加精准，这样有助于得到更准确的答案。同时要进行交叉验证，不要单纯依赖AI的回答，可以通过多源查询来核实信息。在使用AI输出内容时，可以借助一些专业工具辅助甄别。
开发者的改进方向
开发者也需要做出努力。可以对模型进行微调，提高模型的准确性。搭建知识增强架构，让AI拥有更丰富准确的知识储备。形成输出约束机制，避免AI随意编造内容。在关键任务如法律、医疗等领域，要以AI输出为初稿，最终由人类专家审核，确保内容的准确性。
我们生活在一个AI迅速发展的时代，虽然AI带来了很多便利，但我们也不能忽视它存在的问题。在使用AI时，我们要保持警惕，谨慎对待其输出的内容，这样才能避免被AI“背刺”，更好地利用AI为我们的生活和工作服务。
相关问答
DeepSeek为什么会在回答中编造法条？
因为DeepSeek的训练数据可能存在局限性，如果数据有错误或者包含虚假信息，就可能导致它在回答法条相关问题时编造内容。而且它缺乏实时验证能力，无法核对事实。
在工作中使用AI时如何避免被误导？
在工作中，首先要优化提问方式，让问题更精准。然后对AI给出的答案进行多源验证，比如查询其他资料或者询问专业人士。也可以使用一些专业工具辅助甄别答案的准确性。
AI在推荐特产店时出错，反映了什么问题？
这反映出AI的训练数据可能不全面或者存在错误。它可能没有足够准确的关于特产店的信息，也说明AI在处理生活类问题时同样可能出现胡编乱造的情况，不能盲目相信。
如何理解AI的“知识盲区”？
AI的“知识盲区”就是指面对超出其训练范围的问题时的状态。由于没有这方面的知识储备，AI不会承认自己不知道，而是倾向于编造答案来填补空白，这就容易导致错误信息的产生。
为什么说AI生成内容与提问方式有关？
因为提问者的思维定式和认知偏见会影响提问方式，AI会根据提问方式生成内容，可能会集中展示特定观点、刻意回避某类信息或者呈现片面真实等，所以二者是有关联的。
对于AI胡编乱造的情况，开发者的主要任务是什么？
开发者主要任务是对模型进行微调以提高准确性，搭建知识增强架构来丰富知识储备，形成输出约束机制避免随意编造内容，并且在关键任务领域要确保AI输出由人类专家审核。
