OpenAI语音转录工具Whisper易“胡编”，会带来哪些严重问题？

Whisper的基本情况与问题初现

Whisper的宣传优势

OpenAI作为生成式人工智能领域的领军者，其推出的人工智能转录工具Whisper曾被吹嘘具有接近“人类水平的稳定性和准确性”。这一宣传使得Whisper在各行各业中开始被广泛使用，众多使用者都对其抱有很高的期望，希望它能在转录、翻译等多方面发挥重要作用。

问题逐渐被发现

然而随着使用的增多，Whisper的问题开始凸显。通过对十多位软件工程师、开发人员和学术研究人员的采访得知，Whisper存在一个重大缺陷，那就是容易编造大段文字甚至整段句子。这种编造现象被称为“幻觉”，内容可能包含种族言论、暴力措辞或者完全杜撰的医疗建议等。

“胡编乱造”在各领域的体现与危害

在医疗领域的危害

目前Whisper被用于医疗转录工作，像美国的一些医疗中心就开始使用基于Whisper的工具来记录患者与医生的对话。但专家担心这种“胡编乱造”可能造成严重后果，比如误诊。曾在拜登政府工作的AlondraNelson也表示这种错误在医院里可能非常严重。像Nabla公司虽对工具进行了微调，但转录量已达约700万次，问题不容忽视。

在特殊人群服务中的危害

Whisper还被用于为聋人和听力障碍者制作字幕。这个人群完全依赖字幕内容，无法识别编造内容。一旦转录错误，就会给他们带来极大的困扰，可能导致对信息的错误理解，影响他们的正常生活和对外界信息的获取。

在其他行业的危害

在其他行业，如研究人员在公共会议转录准确率研究中发现问题严重。密歇根大学研究人员审核的每十份音频转录中就有八份存在“幻觉”。还有开发人员在大量的记录中发现普遍存在胡编乱造现象，这会导致在数百万段录音中出现数以万计的错误转录。

问题的普遍性与应对措施

问题的普遍性

即使在录制良好的简短音频样本里，问题也依然存在。计算机科学家在审查超过13000个清晰音频片段中发现有187个存在“幻觉”问题。而且研究人员发现近40%的幻听是有害的或令人担忧的，因为可能曲解说话者原意。

应对措施的呼吁

这种幻觉在Whisper中的普遍存在，促使众多专家、倡导者和OpenAI前员工呼吁美国政府考虑制定人工智能法规。OpenAI也需要解决这一缺陷。有工程师表示如果OpenAI优先解决是可以解决的，若不解决任由人们过度自信使用并集成到其他系统中就会有麻烦。目前OpenAI发言人回应会在模型更新中加入反馈机制。虽然它存在问题，但因其流行度高，已被集成到多种产品中，被广泛使用。

相关问答

Whisper容易编造内容可能会有哪些不良社会影响？

它可能会传播不良言论，如种族言论等。在医疗等领域可能导致误诊等严重问题，在为特殊人群服务时也会造成对信息的错误理解等影响。

为什么Whisper在医疗领域使用会令人担忧？

医疗领域需要高度准确的信息转录。Whisper容易编造内容可能导致医生根据错误信息诊断，进而造成误诊，严重影响患者健康。

开发人员认为Whisper产生幻觉的可能原因是什么？

软件开发人员表示，这些胡编乱造往往发生在出现停顿、背景声音或音乐播放时，但这也不是确切原因，目前确切原因还不清楚。

Whisper被哪些知名平台使用？

它被集成到OpenAI旗舰聊天机器人ChatGPT的某些版本中，是甲骨文和微软云计算平台的内置产品，在开源人工智能平台HuggingFace也有使用。

OpenAI对Whisper存在的问题有何回应？

OpenAI发言人回应称会在接下来的模型更新中加入相应的反馈机制，以试图解决Whisper容易编造内容这一缺陷。

Whisper的流行程度如何体现？

仅上个月，HuggingFace上的Whisper最新版本就被下载了420多万次，从呼叫中心到语音助手都有内置，可见其流行程度很高。