Skip to main content

Registered Reports (RRs)的下一步?

Registered Reports (RRs)是近幾年來興起的一種新的研究文章發表的形式,在研究的準備階段研究者把背景、文獻、預期和方法等章節交給期刊審定,完成來回的修訂以後才進行研究,等到數據收集完成以後不論結果是否支持原始的預期或是否有顯著的差異,期刊都照常刊出研究報告。

這是一種與常規peer-reviewed的研究文章發表很不同的方式,在常規(conventional)的期刊規定下,研究者必須等到數據收集完成以後把研究結果整理成完整的敘事(narratives),再把研究文章投稿到期刊和接受同儕審查。

然而此時已經無法對研究的方法做任何修改,也無法避開可能的方法上的問題或改善回答研究問題的方式,更嚴重的影響是不顯著的實驗結果常常因為無法形成有效的敘事或其他原因無法被發表,導致世界上有很多研究人員一直在重複做不顯著的實驗,因為沒人知道這些不顯著的實驗已經被做過了。

RRs便是在上述這些常規研究報告限制下所產生的新方式。

這篇文章指出幾個很有趣的趨勢:

1. 再驗(replication)的RR報告裡面有高達2/3的結果不支持由過去研究產生的假設,創新(novel)研究裡面有55%的數據結果不支持原始預測。在常規期刊上,這些不顯著結果的比例只有20%。

2. 協助第一階段審查的reviewer指出RR最有價值的一點在於有機會在還能改變研究方法或推論邏輯的時候就提出澄清和改善,有機會可以避免潛在的嚴重疏漏(flaw),可能是加入重要的控制組,或確保樣本大小和統計方法可以適當地回答研究問題。

3. 承上點,這樣的機制無法避免研究人員發現自己的研究點子被reviewer改到跟自己想像的很不一樣,而且必須在這種情況下讓研究繼續進行,某種程度上似乎是失去了一些彈性,但作者認為這其實是好事,因為已經先把在文章審查階段會被挑出來的問題在研究準備階段通通提出來,更貼切的解釋是成功避免了相對不informative的研究被執行。

----
大家怎麼看?

----
An analysis this year suggests that RRs are more likely to report null findings than are conventional articles: 66% of RRs for replication studies did not support initial hypotheses; for RRs of novel studies, the figure was 55%. Estimates for conventional papers range from 5 to 20%.

One of the most striking characteristics of RRs is that reviewers can help authors to improve the protocol or rationale while it is still possible to make changes. I have overseen numerous cases in which reviewers have intervened to prevent a serious flaw in a study design — adding crucial controls, ensuring the sample size is sufficient or explaining why the hypotheses or planned statistical analyses cannot really answer the research question.

A related misgiving is that researchers will find themselves locked into a suboptimal protocol once experiments begin. In my experience, the opposite is more likely: reviewers can prevent researchers from running less-informative experiments. And reviewers of Stage 2 manuscripts generally understand reasonable changes. It is not flexibility that is lost, but the ability to airbrush both reasonable and questionable changes out of the picture.
----
#香港加油 #台灣撐香港
https://www.nature.com/articles/d41586-019-02674-6

Comments

Popular posts from this blog

學齡前期的性別刻板印象跟職業取向有正相關

學齡前期的性別刻板印象跟職業取向有正相關,性別-職業刻板印象愈深的小朋友,愈不容易選擇跟刻板印象不同的職業。 Gender stereotypes about interests start early and cause gender disparities in computer science and engineering https://www.pnas.org/node/1013256.abstract 這篇文章讓我想到一篇2019年的研究,比起職業角色(想當科學家嗎?,職業的動作描述(想做科學研究嗎?)有更好的突破性別刻板印象的效果。 Subtle Linguistic Cues Increase Girls’ Engagement in Science 當時寫的筆記:使用動作導向的語言鼓勵小朋友有比較好的效果 https://ingredients2thoughts.blogspot.com/2019/02/blog-post.html

在學術圈工作壓力大和不利心理健康是個已經被報告多次的狀況,但反映統計數字上是什麼樣的情形?

最近一份由英國Wellcome Trust主導的問卷調查發現,有84%的科學家對於在研究領域工作感到驕傲,但有70%的科學家在問卷上表示自己的日常工作壓力很大,只有29%的問卷填答者對自己的工作有安全感,而有約1/3的填答者表示自己每週工作超過50小時。 也有更多填答者表示激烈的競爭已經讓整個做研究的環境變得不友善。也有填答者表示自己的同事不認為自己有能力或有動機可以改變這些結構性的問題,只能等待有一天整個系統垮台,再重新開始。 這份問卷的填答者包括4,267名科學家,3/4在英國工作,84%是白人,60%是女性,有6%是失能者(disability)。 https://www.theguardian.com/society/2020/jan/15/researchers-facing-shocking-levels-of-stress-survey-reveals

使用動作導向的語言鼓勵小朋友有比較好的效果

一篇發表在Psychological Science的期刊文章指出一個滿有趣的現象:相對於identity-oriented的說法,action-oriented的說法在鼓勵小女孩從事科學行為的效果更好。 identity- 和 action-oriented的差異在於前者強調identity,例如"成為科學家",後者則強調行為本身,例如"做科學研究",在這個例子裡面,接受action-oriented指示的小女孩(4-9歲),比起接受identity-oriented指示的小女孩,玩了顯著比較久的科學遊戲。 反之對小男孩來說,identity- 或 action-oriented的指示造成的效果較為多元,5歲以前的小男孩跟小女孩一樣顯示出action-oriented的指示有比較好的鼓勵效果,但5歲以後的小男孩則對identity-oriented的指示有比較強的反應。 總之作者認為這個研究結果顯示強調identity的語言可能會降低小朋友在學新技能(skills)的堅持程度,特別是當這個技能與文化下的刻板印象衝突,導致小朋友開始質疑自己到底夠不夠格稱上該identity (例如科學家)的時候。 -- 這個現象滿有趣的,因為某種程度上跟"關鍵不是你是誰,而是你做了什麼"的思維一致,更廣泛的說法可能是"你是誰並不限制你想要做什麼"。 大家怎麼看? -- 附註: 科學研究需要大量且有系統的重複驗證才能形成某種程度上的可靠性,單一研究彰顯的是在該研究框架與脈絡下有效的結果,不一定可以類推到所有的排列組合之中。 -- 資料來源: https://www.sciencedaily.com/releases/2019/02/190206091354.htm