工作流系列二十多篇,每篇几乎都念同一句咒语:"AI 给的数字必须回原文核对"。有读者问:至于每篇都说吗?至于。因为 AI 幻觉在投资场景里有个特别危险的性质:它编数字的时候,比你自信得多——不脸红、不迟疑、格式工整、逻辑自洽,唯一的问题是数字是错的。研究写错一个营收增速,后面的估值、结论、仓位全在错误地基上。
这一篇把那句咒语展开成完整的防御体系。
幻觉从哪来:四个原因,一句话版
懂一点原理,防御才有章法(详细版见《五个 AI 回答为什么不一样》):
- AI 不是数据库,是语言模型——它在"预测下一个词",不在"查表"。问它英伟达某季营收,它给的是"这个位置最像出现什么数字",像与是,隔着一个太平洋;
- 训练数据有截止日——截止日之后的世界它靠联网检索补,检索不到或检索错配时,旧记忆冒充新答案;
- 迎合倾向——它想帮上忙,"我不知道"说得比应该说的少。你问"帮我找支持 XX 的证据",它常常真给你"找"出来,不管存不存在(Claude 和 ChatGPT 的幻觉测试里两家的差异,本质是这个倾向的强弱);
- 长对话稀释——聊得越长,早先的材料和约束越容易被冲淡,后半段的回答质量常悄悄劣化。
五大高危场景:哪里最容易被编
按投资研究里的中招率排序:
- 精确数字:财务数据、股价、持仓比例——最高危,因为一个错误数字看起来和正确数字一模一样;
- 时效信息:"最新"财报、最新价格、人事变动、"目前的"市场地位——AI 的"最新"可能是一年前;
- 份额与排名:"全球市占率第二"这类说法口径极乱(按出货量?按收入?哪年?),AI 常把不同口径、不同年份的数缝在一起;
- 引用来源:让 AI 给参考文献或链接,它能编出格式完美、根本不存在的报告和网址——引用是幻觉的重灾区;
- 冷门小公司:训练数据里资料越少,编造空间越大——大公司的幻觉是细节错,小公司的幻觉可能是整段虚构。
反过来,低危区是:方法论、框架、概念解释、对你提供的材料做加工——注意到了吗?工作流系列的所有用法,几乎都刻意设计在低危区:给 AI 喂原文让它加工,而不是靠它的记忆回答。这不是巧合,是原则。
七条核对清单
打印级清单,按使用频率排:
- 数字回原文:进入研究档案、影响决策的每一个数字,回财报/官方来源核对——无一例外,这是老规矩的本体;
- 引用点开:AI 给的每条来源、链接、报告名,点开验证存在且内容相符——点不开的引用按不存在处理;
- 时效敏感的自己查:价格、利率、最新财报日期这类信息,自己从行情软件和 FRED/EDGAR 拿,AI 只负责解读你拿来的数;
- 冷门标的双源验证:小公司的关键事实,至少两个独立来源确认——只有 AI 一个"来源"的信息,不进档案;
- 要求交代不确定性:Prompt 里写明"不确定的直接说不确定,标注置信度"——给 AI 台阶下,它就少硬编(系列里的 Prompt 模板几乎都带这句,现在你知道为什么了);
- 双 AI 交叉:重要结论拿另一家 AI 独立问一遍——两家都对的不保真,两家矛盾的必有诈,矛盾点就是你该人工介入的地方;
- 太顺的结论要怀疑:AI 给的论证完美支持你想要的结论时,警惕度反而要调高——加一道反向压力测试:"现在反驳你刚才的结论,给出最强的三条理由"。编造的大厦,通常经不起自己拆自己。
从提问端降幻觉:四个技巧
清单是事后防御,提问是事前防御——幻觉率一半取决于你怎么问:
- 给材料,别考记忆:"分析这份 10-K(附文件)"的幻觉率,远低于"分析 XX 公司基本面"——能贴原文就贴原文,这是整个读文件工作流的地基;
- 要求区分事实与推断:"回答里请标明哪些直接来自材料,哪些是你的推断"——幻觉最爱藏在两者的模糊地带;
- 事实层用带引用的工具:查证类问题交给 Perplexity 这类检索优先、每句带出处的工具,分析层再交给 Claude/ChatGPT——工具各归其位;
- 长对话定期重启:重要研究别在一个几十轮的旧对话里续命,新开对话、重新贴关键材料——上下文越干净,幻觉越少。
收尾:防幻觉和防自己,是同一门功课
最后说个有意思的对称:这套清单的思维方式你其实早就会了——它和投资研究里的证伪思维同源。不轻信单一来源、主动找反面证据、太完美的故事要压力测试、结论必须可验证——对 AI 的输出这么做,对上市公司的叙事这么做,对你自己的判断也这么做(复盘篇干的就是这个)。AI 幻觉不可根除,但流程可以让它伤不到你——就像市场的错误定价不可根除,但纪律可以让它伤不到你,甚至为你所用。
金豆划重点
- 幻觉的危险不在于错,在于错得自信——格式工整、逻辑自洽,只有数字是编的;
- 四个来源:预测下一个词不是查表、训练截止日、迎合倾向、长对话稀释;
- 五大高危:精确数字、时效信息、份额排名、引用来源、冷门小公司——低危区是"加工你提供的材料",工作流的所有设计都刻意待在低危区;
- 七条清单:数字回原文、引用点开、时效自己查、冷门双源、要求标注不确定、双 AI 交叉、太顺的结论反向压测;
- 提问端降一半:给材料别考记忆、要求区分事实与推断、事实层用带引用的工具、长对话定期重启。
本文仅为个人使用经验分享,不构成任何投资建议,市场有风险,入市需谨慎。
— 金豆
