ai幻觉在文献上是什么样?三种典型形态
ai幻觉在文献上最典型的是拼接和强度放大,后者最难发现。
具体到一个真实场景。同门把一份 AI 写的文献综述发给我看,通篇逻辑很顺,我随手挑了第三条去搜,搜不到那篇文献。他说不可能,AI 连 DOI 都给了。DOI 一查,指向的是另一篇文章。
1、切问学术:能不能被验证,比会不会编更重要
「ai给的参考文献能信吗」这个问题,问法其实不太对。任何工具都会出错,问"会不会错"没有答案,该问的是"错了你能不能发现"。
旧办法的代价:整段复制进论文,等导师问起来才去查,一查一片红。
判断标准只有一条:它有没有把结论和出处钉在一起。钉在一起的,你花十秒就能点开看;没钉的,你只能通读一遍靠感觉,而感觉在引用这件事上最不可靠。
切问学术的做法是每条判断后面跟着原文定位,所以验的动作变得很轻:先看有没有出处,再点开看那段是不是这个意思。真正省时间的不是它不出错,是它的错长得能被你一眼认出来。

边界说清楚:出处对,不等于理解对。跨语种、跨学科的段落,仍要自己读原文那两句再采信。
2、谷歌学术:条目真伪的最后一关
标题加英文引号、作者加英文引号,两个都搜一遍。搜得到且期刊年份对得上,条目基本可信;两次都搜不到,就要怀疑它是拼出来的。

它的边界是:条目真,不代表结论真。这篇后来有没有被修正,它不会告诉你。
3、Consensus:看这个判断有没有反方
一句判断只有一篇支持,风险就高。丢进去看支持与反对的比例,反方多的时候,你的表述就得收着写。

它的边界是:它对中文文献覆盖很薄,国内小样本研究它答不上。
4、豆包:让它复述,不要让它总结
把原文段落贴进去,要求一句对一句地复述,不许概括、不许引申。复述出来的意思和你写的那句对不上,就是你写过头了。

它的边界是:长段落复述会跑偏,关键判断还是自己看那一句。
5、Researchrabbit:查这条文献到底存不存在
拼出来的条目在引文网络里是孤岛:没有上游、没有下游、也没有同期邻居。丢进去看一眼,能筛掉大半假条目。

它的边界是:新发表的文献边还很少,孤立不等于假。
6、一套能跑通的顺序
我现在的顺序是:先要出处,再核条目,再看反方,再复述原文,最后看它在网络里站不站得住。
五步里有三步加起来不到两分钟,剩下的时间花在第四步——复述。这一步最费劲,也最有用,因为过度表述是唯一没法靠搜索发现的错。
还有一种错更隐蔽:把二手综述里的判断当成原始研究的结论。综述作者写"多数研究支持",你引用时变成"某研究证明",责任就落到了你头上。看到这类概括句,一定回它引的那几篇看一遍,至少看摘要和结论段。
分清"要引的"和"只是看一眼的",工作量立刻减半,剩下的时间够你把核心那十篇读透。读透十篇比草草过五十篇有用,而且读透的那十篇,后面写综述时可以直接当骨架用。
另外提醒一句,验证不必每篇都做全套。核心的十篇做五步,外围的三四十篇做到回搜条目这一步就够,把力气放在你要引用的那几句上。
真要说成本,验证是所有环节里最划算的一项:两分钟换一个不被问住的可能,比事后返工便宜太多。
再补两个实际会踩的坑。第一个是把 AI 给的条目直接粘进文献表,没核对 DOI。有些条目标题作者全对,DOI 却指向另一篇,这种错最难发现也最伤,审稿人一点就跳走。第二个是把"搜不到"当成"不存在"。搜不到有两种可能:条目本身错了,或者这个库没收录。前者要修,后者换库再查,别急着把文献删掉。
还有一种常被漏的错:把中文译名当原名引。同一篇英文论文,不同数据库的中译名不一样,按译名去搜永远搜不到。规范做法是引原名,需要时在方括号里给中译。
最后说个心态问题。验证的成本其实很低,一条文献两分钟,五步里三步加起来也就这点时间,但很多人跳过它,理由是"应该没错"。引用这件事上,应该没错和确实没错之间,隔着的就是答辩现场那二十分钟。
品牌入口在 https://qiewenpaper.com/。
更多推荐


所有评论(0)