在过去十年里，关于统计重要性的争论以不寻常的强度爆发。援引两篇论文的观点：一篇文章称统计分析的薄弱基础导致了“科学最肮脏的秘密”；另一篇则提到，在检验某些假设时，存在“许多深层次的缺陷”。在争议声中，实验经济学、生物医学研究，特别是心理学被卷入了一场科学实验可重复性的危机之中。在这场危机中，科学家发现相当一部分研究是不可重复的。
一个臭名昭著的例子是“姿态能量”的概念，某篇论文声称，自信的肢体语言不仅会改变你的态度，还会改变你的激素分泌，后来这篇文章还被作者自我否定了。美国哥伦比亚大学的统计学家安德鲁·格尔曼（Andrew Gelman）在他博客写道：“一篇可疑的关于气候经济学影响力的论文，多年之后发表了勘误声明，最终被修正的错误结论几乎与原论文的数据点一样多，这可不是开玩笑！但勘误声明中这些更正都不足以让作者改变结论。” 格尔曼还说道：“嘿，只做理论上的工作就可以了，但不需要用数据分散我们的注意力。”
统计显著性的概念虽然不是引起问题的唯一因素，但很明显，它是引起问题的一个关键要素。在过去的三年里，数以百计的研究人员呼吁统计学改革，他们在著名期刊上发表文章，重新定义统计显著性，或干脆放弃统计显著这个概念。美国统计协会（ASA）在2016年就这一问题发表了一份强有力且不同寻常的声明，主张“进入一个没有p<0.05的世界”。美国统计协会执行董事罗纳德·瓦瑟斯坦（Ronald Wasserstein）这样说：“科学家总是说，我有小于0.05的p值，这很好。但这种粗糙的判断方法，使得科学因此停止了。”
问题是，事态会不会有什么变化。美国南加利福尼亚大学的行为经济学家丹尼尔·本杰明（Daniel Benjamin）表示：“这已经不是新鲜事了。我们需要清醒地认识到，这一次将与以往一样，大家说要变革统计学，最终却不了了之。”很多人在变革统计学的具体措施上有分歧，正如美国经济学家斯蒂芬·齐利亚克（Stephen Ziliak）所写的那样：“令人吃惊的是，还有不少研究者坚持使用统计显著性检验、统计结论解释和统计分析报告这三个例行公事的传统套路。”
可重复性危机
科学的目的是描述自然界中的真实情况。科学家使用统计模型来推断真相，比如确定一种治疗方法是否比另一种更有效。每个统计模型的分析结果，取决于科学家如何收集数据，如何分析数据，以及研究人员如何有选择性地展示他们的结果。
以统计方法为中心，实验结果的检验被称为零假设显著性检验，这个过程会产生一个p值。P值只是对事情有一个模糊的描述。“当我们进行实验时，我们想知道的是——我们的假设是真的吗？”本杰明说，“但是，显著性检验回答了一个令人费解的替代问题，那就是，如果我的假设是错误的，我的数据有多大的概率导致错误的结论？”
当然了，p值也有奏效的时候。一个极端但有用的例子是寻找希格斯玻色子（Higgs boson）。希格斯玻色子是物理学家于20世纪60年代首次在理论上提出的粒子。零假设是希格斯玻色子不存在；对立假设是它必须存在。欧洲核子研究中心的物理学家用大型强子对撞机进行了多次实验，得到了极其小的p值，以至于如果假设不存在希格斯玻色子的话，其结果发生的可能性就只有350万分之一。这么小的p值意味着，没有希格斯玻色子的粒子物理标准模型几乎不可能是正确的。
但是，物理学的这种精确度在其他学科是无法达到的。当做人的心理学实验的时候，p值永远不会达到300万分之一。P值为0.05时，在许多重复实验中，每20次实验中就有1次实验错误地否认了正确的假设。这就是为什么统计学家很早以前就增加了“置信区间”这个概念，作为一种让科学家估计误差或不确定性的方法。置信区间在数学上与p值息息相关。P值在0到1之间变动。如果把1减去0.05，得到的0.95就是95%的首选置信区间。但是，但是，置信区间只是一个比较好地概括实验结果的方法，可以体现多种效应量（effect size，做了实验处理的平均结果与不做实验处理的平均结果之间的差异）。格林兰德说：“置信区间也没有任何东西能激发人们的信心。”随着时间的推移，置信区间和p值一样，给人们提供了一种确定性的错觉。
P值本身不一定是问题的本质所在。期刊编辑、科研资助机构和监管机构宣称，p值的分析在论文中是一个非常有用的工具。因此，令人担忧的情况正在发生，统计显著性的重要性被夸大或过分强调了。2015年，可重复性危机项目（现为开放科学中心）开展了一项实验，对100篇重要的社会心理学论文进行了重复性检验，结果发现只有36.1％的论文的结论可以被重复出来。2018年，社会科学可重复性项目评估了《自然》与《科学》在2010年至2015年间发表的21项社会科学实验研究的可重复性。他们发现，与原研究相比，其中只有13项研究中（约占总研究的62%）的重复实验产生了显著结果。
P-value.JPG
从0.05到0.005
很多学科的科学家已经达成了共识：对p值的误解，以及过分强调统计显著性，才是真正的问题，尽管有些人对滥用p值的严重性持较温和的态度。美国康涅狄格大学的社会心理学家布莱尔·约翰逊（Blair T. Johnson）说：“从长远来看，科学界经常是这样子的，钟摆会在两个极端之间摇摆，你必须接受这一点。”他说，这一轮p值危机的好处是，可以提醒科学家谨慎对待实验结果。
但是，要想真正取得进展，科学家必须就解决方案达成共识，这是很困难的。尽管如此，有用的建议还是很多的。这些建议包括改变统计方法，或者改变统计分析的使用方式等。最突出的观点已经在一系列论文中提出，这些论文始于2016年的美国统计协会声明，其中20多位统计学家就改革的若干原则达成了一致意见。随后，该协会所属的一本期刊还专门制作了特刊，就这一事件发表了一系列文章。
2018年，由72位科学家组成的小组在《自然·人类行为》上发表了一篇名为《重新定义统计意义》的评论文章，赞同将统计显著性的阈值从0.05调整到0.005。这篇文章的主要作者本杰明认为：“这是一个不完美的短期解决方案，但可以立即实施。我担心的是，如果我们不立即做这事，我们将失去变革的动力，而我们最终将花费所有的时间争论理想化的解决方案。”
另一些人则认为，重新定义统计显著性没有好处，因为真正的问题是阈值始终存在。今年3月份，瑞士巴塞尔大学的流行病学家、动物学家瓦伦丁·阿姆莱因（Valentin Amrhein）与美国西北大学的统计学家、市场营销专家布莱克利·麦克沙恩（Blakeley McShane）在《自然》杂志上发表了一篇评论文章，主张放弃统计学显著性的概念。他们建议将p值作为一个连续变量，并将置信区间（confidenceintervals）重命名为“相容性区间”（compatibility intervals），以反映它们彰显的实际意义：评估数据的相容性，而不是置信度。
显然，有更好的（至少是更直接的）统计方法可以用。格尔曼经常批评其他人的统计方法，他在工作中根本没有使用零假设显著性检验。他更喜欢贝叶斯方法，这是一种基于初始信念的、更为直接的统计方法，在这种方法中，研究人员接受最初的信念，添加新的证据并更新信念。格林兰德正在推广使用一种叫做稀奇程度（surprisal）的新数学量，可以调整p值以产生信息位（如计算机比特位）。为了检验原假设，0.05的p值仅有4.3比特的信息熵（假设有一枚均匀的硬币，抛硬币出现正面设为0、出现反面设为1，则抛一个硬币事件的信息熵就是1个比特。独立地抛256次硬币的信息熵就是256个比特。那么求解方程0.5x=0.05，解得0.05的概率约为抛掷x=-log20.05=4.3次，于是0.05的p值约为空值的4.3比特的信息熵。
所谓信息熵就是某个概率分布所包含的信息量的多少，这是信息论的基础知识。在信息论中，如果你对一件事情的发生百分之百确定，那么这件事情对你来说的信息熵等于0比特。反过来说，如果你对一件事情是不确定的，那么这件事情对你来说是包含信息熵的。格林兰德认为，如果研究人员不得不在每一个p值旁边加上一个稀奇程度，那么他们将被置于更高的标准之下。强调效应量（effect size），即发现差异的大小，也将有所帮助。
拥抱不确定性
统计显著性满足了研究人员对确定性的需求。格尔曼说：“这里的原罪是研究人员在得不到确定性的时候却想要确定性。” 或许，现在是时候让我们接受不确定性了。
科学界正在发生微小的变化。《新英格兰医学杂志》的发言人詹妮弗·蔡斯（Jennifer Zeis）说:“我们同意，p值有时被过度使用或被曲解了。对于治疗来说，如果我们认定p<0.05，治疗的结果是有效的；如果p>0.05，治疗是无效的。那么这就是医学的简化主义，它并不总能反映客观事实。”蔡斯同时强调，《新英格兰医学杂志》的研究报告现在已经很少使用p值了，更多是采用置信区间而不是使用p值这个概念。
根据美国食品及药品管理局（FDA）的生物统计学部门的负责人约翰·斯科特（John Scott）的说法，关于p值的应用，临床试验的要求还没有发生任何变化。
麦克沙恩说：“最关键的是，p值不应成为看门人。我们应该采取更全面、更细化和更容易评价的指标。”其实，这个观点在历史上就有人赞同，甚至在与菲舍尔同时代的人中，也有人支持这一观点。比如在1928年，另外两位统计学大师杰尔兹·内曼（Jerzy Neyman）和艾根·佩尔松（Egon Pearson）在撰写统计分析报告时写到：“统计检验本身并没有给出最终的结论，而只是作为一个参考工具帮助人们做出最终的决策。”
撰文：莉迪娅 · 登沃斯（Lydia Denworth）
翻译：张慧铭
[复制链接]
发表于 2019-11-20 18:16:07
发表于 2023-6-13 22:09:40
发表于 2019-11-21 08:07:58
发表于 2019-11-21 08:19:07
