ChatGPT误导用户催生新功能 Soundslice顺势推出ASCII标签支持

当你的网站被海量上传文件轰炸，无法处理时，你会怎么做？软件开发人员兼音乐家 Adrian Holovaty 就遇到了这种情况，他发现公司乐谱扫描仪上传失败的文件数量出现了异常激增。 令他没想到的是，罪魁祸首竟然是ChatGPT。 在最近的博客文章中，Soundslice联合创始人解释说，他在查看错误日志时发现，ChatGPT指示用户将ASCII“tabs”（吉他手和其他人用来代替乐谱的简单音乐格式）上传到Soundslice中，以便收听音频回放。问题是，这项功能根本不存在。因此，Holovaty决定开发它。 Holovaty写道：“据我所知，这是第一家公司开发一项功能的案例，因为 ChatGPT 错误地告诉人们它的存在。” 于2012年推出，Soundslice是一个交互式音乐学习和共享平台，可以将照片或PDF中的乐谱数字化。 “我们的扫描系统原本就不支持这种符号风格，”霍洛瓦蒂写道。“那么，为什么我们会被这么多 ASCII 标签的 ChatGPT 截图轰炸呢？我困惑了好几个星期——直到我自己动手尝试了一下 ChatGPT。” 我们从未支持过 ASCII 标签；ChatGPT 完全是在欺骗用户。这不仅让我们颜面扫地，还给我们的服务带来了错误的预期。 AI幻觉现象屡见不鲜。自2022年ChatGPT公开发布以来，已有无数实例表明聊天机器人，包括ChatGPT、Google双子座以及Anthropic的克劳德·艾，将虚假或误导性信息当作事实。 虽然OpenAI没有提及Holovaty的说法，但该公司承认幻觉仍然是一个问题。 OpenAI的一位发言人表示：“解决幻觉问题是一个正在进行的研究领域。”“除了明确告知用户ChatGPT可能会犯错误之外，我们还在不断努力通过各种方法提高模型的准确性和可靠性。” OpenAI建议用户将ChatGPT的回复视为初稿，并通过可靠来源验证任何关键信息。它在系统卡和安全评估中心发布模型评估数据。 “幻觉不会消失，”西北人工智能咨询公司联合创始人兼首席执行官Wyatt Mayham告诉解密，“在某些情况下，比如创意写作或头脑风暴，幻觉实际上是有用的。” 这正是霍洛瓦蒂所采取的方法。 “我们最终决定：管他呢？我们不如满足市场需求，”他说。“所以我们定制了一个 ASCII 标签导入器，这在我‘预计在2025年开发的软件’清单中排名靠后，我们还修改了扫描系统的UI文案，以便向大家介绍这个功能。” Holovaty没有回应解密请求评论。