AI操纵A股？语料污染与“AI嘴替”背后隐藏着什么？

AI问答中的虚假信息现象

上市公司投资的虚假答案

在纳米AI搜索中输入关于上市公司投资DeepSeek的问题，得到的答案令人诧异。像三六零被指投资DeepSeek，包括2023年首轮融资的早期投资和2024年新一轮融资的跟投，还给出投资逻辑。但不止三六零，慈星股份等多家公司也被AI回答有类似投资情况。

虚假答案经不起检验

这些答案与事实严重不符。无论是查看工商信息，还是借助企查查等第三方平台，都表明所谓的“公司为DeepSeek股东”是毫无根据的。上市公司如慈星股份、华胜天成也纷纷辟谣，明确表示没有参与DeepSeek的投资。

虚假信息的来源：语料污染

东方财富网财富号为语料源头

记者调查发现，东方财富网财富号是“360投资过DeepSeek吗”这类问题答案的重要语料源头。在三六零股吧中有多篇关于“360于2023年就参与DeepSeek的投资”的文章，作者匿名且无官方信源，内容真实性无保障。

语料污染的原理

中国信通院相关负责人称这是“语料污染”。通过试验可知，在特定论坛连续发布大量虚假信息后，主流大模型对相关问题回答的置信度会大幅上升。没有新的真实语料覆盖，投资者得到的AI答案就可能失真。

虚假信息的传播与背后的利益链

虚假信息的传播流程

从近期情况看，虚假信息传播有一套流程。首先用自动化脚本在多个论坛投放虚假信息，接着用爬虫技术加速搜索引擎收录，最后用污染后的AI回答在社交媒体裂变传播。整套操作成本通常为万元级别。

可能存在的利益链条

北京某私募人士透露背后可能存在利益链。制造者可能通过虚假语料投喂、模型污染、二次传播、股价异动等环节构成新型市场操纵链条，诱导出货。此前直播荐股就有类似操纵模式，现在“AI黑嘴”现象也有这种嫌疑。

应对AI谣言的措施

上市公司的责任

北京某家公司董秘指出，当上市公司未主动澄清谣言时，普通投资者难以甄别信息真伪。所以上市公司要及时关注股价和舆情，及时准确回复。像慈星股份也提醒投资者注意甄别网络信息源头，理性判断。

监管部门的行动与学者观点

监管部门发布2025年“清朗”系列专项行动通知，将整治AI技术滥用和涉企网络“黑嘴”等。清华大学副教授陆洪磊表示，AI谣言有多种特点，治理需要多方面努力，如解构语境、遏制主体等，大家都应参与。

相关问答

AI问答中关于上市公司投资的错误信息是怎么出现的？

是因为语料污染，东方财富网财富号的匿名文章等虚假语料成为源头，被AI收录，没有真实语料覆盖就会给出错误答案。

语料污染是如何影响AI回答的？

就像试验中那样，大量虚假语料发布后，大模型对相关问题回答的置信度会快速上升，从而导致回答失真，给出与事实不符的答案。

虚假信息传播流程中的关键步骤有哪些？

关键步骤包括自动化脚本在多论坛投放虚假信息、爬虫技术加速收录、污染后的AI回答社交媒体裂变传播，整个流程成本较低。

为什么说背后可能存在利益链条？

因为可能存在虚假语料投喂、模型污染、二次传播、股价异动等环节，就像以前直播荐股背后的操纵模式，可能是诱导出货。

上市公司在应对AI谣言中起到什么作用？

上市公司要及时关注股价和舆情，及时准确回复，若不澄清，投资者难以甄别信息，像慈星股份提醒投资者理性判断。

监管部门如何治理AI谣言相关问题？

监管部门发布通知，将从整治AI技术滥用乱象、整治涉企网络“黑嘴”等八个方面下手，打击侵权违法行为。