西北大学的 Jessica Hullman 在 Cosmos Institute 的客座文章里,拆解 AI for science 讨论中的一组对立:一边把「可验证的答案」当进展标志——长期猜想被证明、疾病被治好,人在不在场无所谓;另一边主张人的理解才是核心,因为理解才让新发现被整合、被质疑、被继续推进。她的批评是,理解派一旦接受这个二分就已经输了:理解被描述成一种可有可无的心理状态,退化成「历史上我们靠它拿到答案」的二阶约束。文章用几个具体场景展开——陶哲轩那个「有形式化正确证书、通过三期临床、但没人知道怎么找到的药,你吃不吃」的思想实验,以及 arXiv 上作者显然不具备理解力的论文激增后,责任归属还算不算数。
🔑 核心要点
核心反驳对象是二分法:把「答案」和「理解」分开谈,理解就自动降级为可选项。
陶哲轩的思想实验被批评为问错了问题:四期癌症患者当然会接受那个药。
问责被重新定义:能说明结论建立在什么之上、被质疑时能回应,这件事验证解决不了。
结论是科学的社会过程本身有价值,不只是产出答案的管道。
💡 金句
When defenders of understanding don’t dispute this separation, they immediately lose the argument.