Skip to main content

Registered Reports (RRs)的下一步?

Registered Reports (RRs)是近幾年來興起的一種新的研究文章發表的形式,在研究的準備階段研究者把背景、文獻、預期和方法等章節交給期刊審定,完成來回的修訂以後才進行研究,等到數據收集完成以後不論結果是否支持原始的預期或是否有顯著的差異,期刊都照常刊出研究報告。

這是一種與常規peer-reviewed的研究文章發表很不同的方式,在常規(conventional)的期刊規定下,研究者必須等到數據收集完成以後把研究結果整理成完整的敘事(narratives),再把研究文章投稿到期刊和接受同儕審查。

然而此時已經無法對研究的方法做任何修改,也無法避開可能的方法上的問題或改善回答研究問題的方式,更嚴重的影響是不顯著的實驗結果常常因為無法形成有效的敘事或其他原因無法被發表,導致世界上有很多研究人員一直在重複做不顯著的實驗,因為沒人知道這些不顯著的實驗已經被做過了。

RRs便是在上述這些常規研究報告限制下所產生的新方式。

這篇文章指出幾個很有趣的趨勢:

1. 再驗(replication)的RR報告裡面有高達2/3的結果不支持由過去研究產生的假設,創新(novel)研究裡面有55%的數據結果不支持原始預測。在常規期刊上,這些不顯著結果的比例只有20%。

2. 協助第一階段審查的reviewer指出RR最有價值的一點在於有機會在還能改變研究方法或推論邏輯的時候就提出澄清和改善,有機會可以避免潛在的嚴重疏漏(flaw),可能是加入重要的控制組,或確保樣本大小和統計方法可以適當地回答研究問題。

3. 承上點,這樣的機制無法避免研究人員發現自己的研究點子被reviewer改到跟自己想像的很不一樣,而且必須在這種情況下讓研究繼續進行,某種程度上似乎是失去了一些彈性,但作者認為這其實是好事,因為已經先把在文章審查階段會被挑出來的問題在研究準備階段通通提出來,更貼切的解釋是成功避免了相對不informative的研究被執行。

----
大家怎麼看?

----
An analysis this year suggests that RRs are more likely to report null findings than are conventional articles: 66% of RRs for replication studies did not support initial hypotheses; for RRs of novel studies, the figure was 55%. Estimates for conventional papers range from 5 to 20%.

One of the most striking characteristics of RRs is that reviewers can help authors to improve the protocol or rationale while it is still possible to make changes. I have overseen numerous cases in which reviewers have intervened to prevent a serious flaw in a study design — adding crucial controls, ensuring the sample size is sufficient or explaining why the hypotheses or planned statistical analyses cannot really answer the research question.

A related misgiving is that researchers will find themselves locked into a suboptimal protocol once experiments begin. In my experience, the opposite is more likely: reviewers can prevent researchers from running less-informative experiments. And reviewers of Stage 2 manuscripts generally understand reasonable changes. It is not flexibility that is lost, but the ability to airbrush both reasonable and questionable changes out of the picture.
----
#香港加油 #台灣撐香港
https://www.nature.com/articles/d41586-019-02674-6

Comments

Popular posts from this blog

臺灣駕照換英國駕照一定要知道的幾件事

在一份近期 由英國駕駛與車輛執照管理局(DVLA)發佈的資料 指出,英國將於20 May 2021開始,對臺灣駕照持有者開放 換領英國駕照 的業務,同一批開放的國家和區域包括阿聯酋、烏克蘭和北馬其頓。 這樣的措施對於在英國的臺灣人來說當然是一件好事,可以節省在英國考試和準備的時間和昂貴的教練及考照費用。在這篇文章裡面我會以一個在臺灣和英國都考過手排駕照的駕駛的角度,跟大家分享主觀和客觀的差異。 在英國考駕照? 以目前的規定來說,在英國考駕照最少需要經過以下幾個步驟和花費: 申請 學習駕照 (provisional license),£34。題外話:學習駕照任何人都可以申請,所以也可以申請來當作隨身攜帶的有效證件,取代遺失會很麻煩的護照或BRP。 通過 筆試 (theory test),£23。 通過 路考 (driving test),£62。 規費的部分最少就是£119,額外加上教練課,通常£20-25/小時,如果以 平均45小時 可以達到考照標準來說,就是最少£900。 綜合起來,一張駕照可能要花接近£1,000才能拿到。以我自己在臺灣持有手排駕照8年(到我搬到英國為止),其中有5年常態開手排車的經驗,我在英國也上了大約12小時才覺得我有相對的信心可以上路和去考照,到考照前我總共上了18小時的教練課。 英國的筆試和路考考什麼? 筆試分成 三個部分 : 單選題 (multiple-choice questions):總共50題,需在57分鐘內答對超過43題才通過。題目全部出自英國的道路規則( The Highway Code ),考題形式跟臺灣差距不算太大,但範圍和細緻的程度大非常多。 影片複合題 (video clip test):會播放一段30秒的無聲行車紀錄影片,接著回答3個跟影片有關的問題,可能是規則或決策,需要全部答對才通過。 危險覺察測驗 (hazard perception test):總共14題情境題,每題是一段行車紀錄影片,當中會出現最少1個「需要改變方向或速度」的狀況(hazard),愈早偵測到狀況分數愈高,愈晚分數愈低,過早或過晚都沒有分數,每個hazard最高拿5分,最低0分,滿分75分(13題單hazard + 1題雙hazard),需要最少45分才通過。 路考分成 五個部分 : 視力測驗:辨別20米外的車牌號碼 " show ...

在學術圈工作壓力大和不利心理健康是個已經被報告多次的狀況,但反映統計數字上是什麼樣的情形?

最近一份由英國Wellcome Trust主導的問卷調查發現,有84%的科學家對於在研究領域工作感到驕傲,但有70%的科學家在問卷上表示自己的日常工作壓力很大,只有29%的問卷填答者對自己的工作有安全感,而有約1/3的填答者表示自己每週工作超過50小時。 也有更多填答者表示激烈的競爭已經讓整個做研究的環境變得不友善。也有填答者表示自己的同事不認為自己有能力或有動機可以改變這些結構性的問題,只能等待有一天整個系統垮台,再重新開始。 這份問卷的填答者包括4,267名科學家,3/4在英國工作,84%是白人,60%是女性,有6%是失能者(disability)。 https://www.theguardian.com/society/2020/jan/15/researchers-facing-shocking-levels-of-stress-survey-reveals

使用動作導向的語言鼓勵小朋友有比較好的效果

一篇發表在Psychological Science的期刊文章指出一個滿有趣的現象:相對於identity-oriented的說法,action-oriented的說法在鼓勵小女孩從事科學行為的效果更好。 identity- 和 action-oriented的差異在於前者強調identity,例如"成為科學家",後者則強調行為本身,例如"做科學研究",在這個例子裡面,接受action-oriented指示的小女孩(4-9歲),比起接受identity-oriented指示的小女孩,玩了顯著比較久的科學遊戲。 反之對小男孩來說,identity- 或 action-oriented的指示造成的效果較為多元,5歲以前的小男孩跟小女孩一樣顯示出action-oriented的指示有比較好的鼓勵效果,但5歲以後的小男孩則對identity-oriented的指示有比較強的反應。 總之作者認為這個研究結果顯示強調identity的語言可能會降低小朋友在學新技能(skills)的堅持程度,特別是當這個技能與文化下的刻板印象衝突,導致小朋友開始質疑自己到底夠不夠格稱上該identity (例如科學家)的時候。 -- 這個現象滿有趣的,因為某種程度上跟"關鍵不是你是誰,而是你做了什麼"的思維一致,更廣泛的說法可能是"你是誰並不限制你想要做什麼"。 大家怎麼看? -- 附註: 科學研究需要大量且有系統的重複驗證才能形成某種程度上的可靠性,單一研究彰顯的是在該研究框架與脈絡下有效的結果,不一定可以類推到所有的排列組合之中。 -- 資料來源: https://www.sciencedaily.com/releases/2019/02/190206091354.htm