社會科學的學術研究,常得到很不同的結果。即使是像醫學這樣的學科,我們可能會設想,研究中測試的介入措施,與那個措施的結果,這兩者之間有直接而明確的關係,但其實,各個研究結果很不一樣;不過,許多人認為社會科學的情況更糟。這是因為,介入措施與它的結果之間的關係,可能取決於多種因素,而不同的情境或執行方式,也會對研究結果造成重大影響。

還有其他原因,讓研究可能產生不同的效應。舉個例子,隨機誤差(chance error)就可能影響研究結果。研究人員也可能有意識、或是潛意識讓結果產生偏誤。所有這些變異的來源,都可能導致我們擔心造成心理學或其他商業相關社會科學中的「可重複性危機」(replication crisis;編按:指研究結果難以經後續重複驗證的危機)。既然有這些變異,我們該如何運用證據?

最直接的答案,就是別過度相信任何一項研究。如果可以,就盡可能找出統整多項研究結果的整合分析(meta-analysis)或系統性文獻回顧,因為他們提供更有可信度的證據,有時也會提出可能的原因,來說明研究結果為何會有差異。

若要衡量某項研究與它的結果有多麼重要,記得注意它的樣本數。如果樣本數不大,研究就特別難重複驗證。最正面和最負面的結果,通常都出現在樣本數最小,或是信賴區間最廣的研究。較小型的研究比較可能無法重複驗證,部分是因為機遇;但隨著樣本數增加,效應也可能變小,這有幾個原因。如果研究是在測試一項介入措施,可能會因為產能限制,無法執行高品質的大規模研究。例如,如果要測試一項訓練計畫,你可能不需要雇用任何全職人員來執行;但若要擴展這項計畫,就可能會需要聘雇新的人員,而他們可能不會執行得一樣好。

較小型的研究,常也會只針對能產生最大效應的樣本來進行。這是有道理的:如果你的介入措施耗資甚大,只能分配給少數人,可能會將人員分級,並把介入措施分配用於當中最能受益的人。但這就表示,如果你在較大的群體裡實行這項介入措施,效應可能會比較小。更廣泛來說,一個有幫助的做法,就是思考若是這項介入措施擴大實施規模,情況可能會有哪些不同。例如,小規模的介入措施,不可能影響廣大的市場,但如果擴大那項措施的規模,競爭對手或法規監管機構可能會跟著改變行為來因應。

同樣地,也要考慮樣本、情境與執行的獨特性。為何研究人員要研究這些人、公司或產品?你預期這個樣本的表現,會比你有興趣的樣本表現得更好或更差?環境也可能影響結果。研究環境當中是否有任何特別的情況,可能讓效應更明顯?

如果研究是在評估一項介入措施,執行那項措施的方式就非常重要。例如,假定你聽說發送提醒訊息可以改善赴約情形。你如果正在考慮安裝一個提醒系統,可能就需要知道研究人員發送訊息的頻率,以及訊息的內容,才能評估你是否可能會得到不同的結果。

如果一項研究有某個能說明因果關係的明確機制,可以解釋研究發現,而且在不同環境下都成立,你或許就能對那項研究的結果有更多信心。例如,行為經濟學的某些結果顯示,人類的某些行為是本能。可惜這些機制很難發現,而且有許多行為經濟學實驗,最初似乎發現了某個本能原則,但後來無法重複驗證,例如,有研究發現幸福感會提升耐心。但如果有具說服力的理由,讓我們認為也許可以再度看到某項研究之前發現的結果,或者,如果有理論上的強力理由,讓我們認為也許可以擴大類推某個特定結果,就能讓我們更相信這個研究結果。

最後,如果研究結果聽起來太美好而不真實,那它可能的確如此。這聽起來可能是陳腔濫調,卻是根據貝葉斯統計(Bayesian statistics)的一項原則:較奇怪的主張,就需要更強力的證據,才能改變一個人的信念或「先驗」(prior,指先前的信念)。如果認真看待我們先前信念(我們有理由相信,人類一般來說很擅長做出各式各樣的預測),那麼看起來不太可能的結果,的確不太可能是真的。換句話說,假使一項結果的統計顯著性,或是一項研究的統計檢定力(power)維持不變,我們在聽到新證據之前,覺得這項結果為真的可能性有多高,就會決定這項結果「假陽性」或「假陰性」的機率。

這篇文章強調運用多項研究的重要性,而不要太仰賴任何單一研究。但如果沒有這麼多研究,怎麼辦?如果碰到這種情形,你也許可以參考證據的其他來源,例如其他人的建議或預測。就像社會科學研究一樣,你可能會得到許多互相衝突的建議,但整合多項預測通常都相當準確。然而,你應確保消息來源不是根據同樣的資訊;研究發現,人們很容易「忽略相關性」,因此當許多專家或新聞媒體根據同樣的研究做出報告或報導,人們會誤以為這些是獨立的資訊來源,最終太過相信這項研究的結果。

總之,應整合運用你的經驗和證據,但也要小心,別對你自己的評估過度自信。儘管結果會有不同,但對大多數人來說,更重視證據還是比較有利。

(游樂融譯)