简洁的提示会增加人工智能聊天机器人产生幻觉的风险

新的研究表明，指导人工智能聊天机器人保持简短的回复实际上会增加它提供不准确或捏造信息的几率。总部位于巴黎的初创公司 吉斯卡德 我们发现，简洁的提示，尤其是当问题模棱两可时，往往会产生更多的结果。 人工智能幻觉 来自先进的人工智能模型。

Giskard 团队观察到，即使对系统指令进行微小调整，也能显著改变模型生成错误信息的频率。这对于优先考虑缩短输出以节省数据和提高响应速度的企业来说尤为重要。

对领先人工智能模型的影响

吉斯卡德测试了流行的人工智能系统，包括 OpenAI 的 GPT-4o、Mistral Large 和 Anthropic 的 Claude 3.7 Sonnet，发现当要求答案简短时，每个系统的准确率都明显下降。在用户要求简短解释的场景中，模型反驳错误假设或指出错误的机会较少。

根据这项研究，减少回复可能会使模型无法提供足够的上下文来质疑误导或错误的提示。研究人员指出，"言简意赅 "之类的命令可能会无意中削弱聊天机器人揭穿虚假说法的效果。

研究还发现，当用户满怀信心地发表有争议的言论时，模型更不可能对其进行纠正。在某些情况下，用户认为互动最愉快的系统并不总是能提供最真实信息的系统。

在使人工智能行为符合用户偏好和确保基础信息准确性之间，开发人员面临着艰难的平衡。报告强调了一个日益突出的矛盾，因为优化积极的用户体验可能会降低模型质疑错误信息或错误前提的意愿。