核查这个动作
人工智能产出的摘要不是来源。下面是一个分三步的动作，依据的是最好的职业核查者实际在做的事。
人工智能产出的摘要不是来源。它是一次压缩，而压缩可能在不作任何提示的情况下切掉一处分寸：一个日期、一句保留、一处专家之间的分歧。这个问题不新，它比语言模型早得多。变的是摘要产出的速度，以及它那副完成品的样子给人的信任感。
一个人写的摘要也可能因为图省事而出错，但他一般知道自己在简化。语言模型不做这个区分：它产出的是概率最高的那种说法，不管这种说法有没有保住原文里的那句保留。它的输出里没有任何东西能把一份忠实的摘要和一份在路上丢掉了分寸的摘要区分开。
最好的核查者在做什么
2019 年，Sam Wineburg 和 Sarah McGrew 发表了一项研究，让三组人面对同一项任务：判断一个网站值不值得相信。10 位拥有博士学位的历史学者、10 位职业核查者，以及 25 位本科生。历史学者和学生都留在页面上审视它：一个标志、一个听起来正经的域名、一份精心的排版，往往就足以说服他们。职业核查者做的恰恰相反：他们几秒钟就离开这个页面，打开别的标签页，去找别人怎么评价这个网站或者这个说法本身。这种做法有个名字，叫“横向阅读”，与留在页面里的“纵向阅读”相对。实测结果是：职业核查者得出的结论依据更扎实，用的时间也比另两组少得多。
机器产出的摘要，恰恰把平时用来判断一个页面的那些语境线索都抽掉了：没有域名可看，没有排版可评，只剩一串被磨平、没有棱角的句子。于是核查这个动作，就把注意力挪到它真正该落的地方，也就是来源本身，而不是摘要的那层包装，因为包装什么也说明不了。
这个动作，分三步
SIFT 方法由研究者 Mike Caulfield 在同一年发表，它把这种做法变成了可以反复照做的动作。用在一份机器产出的摘要上，它归结为三次核查，按这个顺序。
- 重新打开原始来源，找到那个确切的段落。摘要很少整句引用：它做的是转述。把它所说的那个具体段落找回来，才能核实它存在，而且它说的确实是摘要让它说的那件事。
- 核对来源是把这个事实当成已确立的，还是当成有争议的。一句话可以准确，却被砍掉了一句保留：“有些研究者不同意”“这个结果仍有讨论”。一份把这层分寸压平成确定事实的摘要，就把一个假设变成了真理。
- 核对来源的日期。一个在某个日期正确的事实，几年之后可能已经过时，在变动很快的题目上尤其如此。一条没有日期的来源，或者有日期而摘要没有写明的来源，在被拿去用之前值得再查一次。
这三步各自应对一种不同的故障：第一步抓住一处大概其的、或者干脆编出来的引文，第二步抓住一份根本不确定的确定，第三步抓住一条昨天真、今天假的信息。
为什么这不是浪费时间
Wineburg 和 McGrew 那项研究有一个副标题，正好总结了它的核心结果：读得更少，学到更多。职业核查者花的时间并不比另两组多：他们花得更少，因为他们是在对的地方找对的信息，而不是把眼前这一页啃到底。上面这三步遵循同样的逻辑：它们不要求把一切重读一遍，只要求就摘要提出的那个确切点，把来源重新打开一次。
这个动作不能替代对某个技术题目的专业知识：它不打算把谁变成相关领域的专家。它救的是最常见的那种故障：一处在摘要过程中消失的分寸，而不是一处高深的推理错误。而当这道核查落在 The AI Manual 自己的某个页面上、并且没通过时，有一个地址正是为此存在的：报告错误。
来源
- Lateral Reading and the Nature of Expertise: Reading Less and Learning More When Evaluating Digital Information Sam Wineburg, Sarah McGrew，Teachers College Record，第 121 卷第 11 期，2019 年。
- SIFT (The Four Moves) Mike Caulfield，Hapgood，2019 年。
本文以 CC BY 4.0 许可协议发布： 欢迎复制、翻译、再发布，署名 ODERSA 即可。