跳到主要内容

同行评议的透明度:与社会科学和人文学科主编的半结构化访谈研究

摘要

背景

开放的同行评审实践在医学和生命科学领域越来越多,但在社会科学和人文科学(SSH)中仍然很少见。我们的目标是绘制出受尊敬的SSH期刊的编辑如何看待开放的同行评审,他们如何在他们监督的评审过程中平衡政策、道德和实用主义,以及他们如何看待自己在这个过程中的权力。

方法

我们对知名SSH期刊的编辑进行了12次预注册的半结构化访谈。访谈包括21个问题,平均持续67分钟。访谈被转录,描述编码,并组织成代码族。

结果

SSH编辑认为匿名同行评审的好处超过了开放同行评审的好处。他们认为匿名同行评议是作者和编辑应该遵守的“黄金标准”,以尊重机构政策;此外,匿名审查也被认为是道德上优越的,因为它提供了保护,更务实的,因为更容易寻求审稿人。最后,编辑承认他们在出版过程中的权力,并报告了尽可能保持工作公正的策略。

结论

SSH期刊的编辑更喜欢匿名同行评审的好处,而不是公开同行评审,并承认他们在出版过程中拥有的权力,在此过程中,作者几乎完全向编辑机构公开。我们建议期刊通过在每个审稿阶段列出所有参与决策的机构,来传达其稿件审稿过程的透明度要素。

同行评审报告

简介

最近一项对科学期刊指导的跨学科回顾发现,社会科学和人文科学(SSH)期刊披露同行评议实践的比例高于其他学科:人文科学61%,社会科学72%,而物理科学41% [1].2019年的另一项研究表明,174种期刊正在使用公开同行评议,但其中只有一种(1%)来自人文学科[2].关于公开同行评议的利弊的争论至今仍在继续,尤其是在医学领域[3.4],对于SSH的同行评审透明度知之甚少,而这正是本研究的主题。

在上述文献中,“公开同行评议”一般有两层含义:作者和/或审稿人相互公开的同行评议,以及同行评议报告的公开共享。最近的分类[5提出了第三个层次的潜在开放:与作者、编辑和审稿人之间的交流相关的透明度补充).在本文中,我们讨论了同行评审“开放性”的所有三个领域,但除非另有说明,我们在第一类中使用术语“开放同行评审”:作者、编辑和/或审稿人在评审的各个阶段相互公开。在完全开放的同行评审中,所有身份都向各方公开。

Tennant和Ross-Hellauer对同行评议研究状态的全面映射[6]确定了该领域中几个未研究的研究问题——例如,编辑决定的理由和同行评议的认知多样性——这些问题与学科差异有关,可以说,特别是与SSH有关。同样地,由于在定性领域的特殊认识论问题,对数据共享日益增长的需求导致了大量由ssh驱动的辩论[78],我们有充分的理由期待SSH也会随着不同的同行评审标准而发展,例如,与医学和自然科学相比。

与此相关,Guetzkow和同事[9]对来自不同领域的同行评审员进行了访谈研究,发现自然科学学者对原创性的理解非常狭隘,即“产生新的发现和理论”,而对于SSH同行评审员来说,原创性也可能与方法、方法、数据、主题中的新元素有关,或者仅仅是研究与未被研究的领域有关。考虑到一些原创性陈述可能比其他陈述更不容易证明,这种概念上的差异也可能与作者、编辑和审稿人在审查过程中愿意向他人透露自己身份的程度产生共鸣。在其他关键概念中也可以发现类似的差异,例如可复制性[1011],这进一步证明有必要进行个别纪律调查。

虽然大型期刊《公共科学图书馆•综合》这些期刊欢迎来自几乎所有学科的稿件,它们正在通过出版过程和它们之外(例如,通过资助机构的评估)改变同行评议的格局,大多数科学对话仍然发生在特定学科的期刊上,包括那些以SSH子领域为标志的期刊。因此,本访谈研究旨在回答三个研究问题:

  • RQ1:排名靠前的SSH期刊如何看待开放的同行评审过程,这些看法在他们采用的实际过程中体现了吗?

  • 主编如何在政策、伦理和实用主义之间定位期刊的评审和出版实践?

  • RQ3:主编如何定位自己在审稿过程中的强大角色?这种角色如何协商审稿过程的开放科学原则?

进一步的文献

与RQ1相关,Glonti和同事[12]最近对生物医学期刊编辑进行了一项访谈研究,发现“每个期刊的独特背景和特征,包括财务和人力资源以及期刊声誉”(第7页)影响了编辑决策以及他们对同行审稿人的期望。这支持了一个前提,即SSH内部的期刊,由其学科特征所描述,可能以不同的方式看待和实践公开同行评审。上述情况也反映了我们的RQ2,因为“财务和人力资源”可能在同行评审透明度方面发挥务实的作用;例如,寻找同意撰写公开报告的同行审稿人可能会耗费大量资源。13].

关于同行评议的伦理已经写了很多,这进一步涉及到RQ2。例如,开放和匿名同行评审格式都存在一个问题,即戈尔曼所创造的“奥本海姆效应”:一种已知作者综合症,一些编辑和同行评审人员(“我们无论如何都要发表它”)倾向于为知名学者提供特殊待遇[14].最近,这一效应得到了实证支持,如Tomkins和同事[15]有5000篇论文由四位专家同行评议,其中两位看到了作者的名字,还有两位匿名。与匿名同行相比,同行评议者更有可能接受著名作者和顶级机构的论文。同一项研究还发现了对女性作者的统计上显著的偏见——这是几十年来已知的另一个问题[16],尽管最近的研究结果显示这方面有所改变[17].

至于我们的RQ3, Wager和同事[18)就出版伦理问题对231位主编进行了调查,发现大多数编辑“似乎不太关心出版伦理问题[并且]有理由相信他们能够处理出版伦理问题”(第256页)。Lipworth的团队[19],然后就同行评议问题采访了生物医学期刊编辑。这些编辑普遍积极地看待审稿过程中的主观影响,并将其视为编辑和审稿人认知权威和专业知识的表达。

虽然我们扩展了上述现有的发现,但我们的研究并不是建立在精确的假设之上。在数据收集之前,我们确实考虑并预登记了一些预期趋势(https://osf.io/wjztp),但由于本研究的非确证性质,这些期望将不再详细讨论。未来具有良好统计力的定量研究将更适合进行假设检验。

方法和材料

我们通过与知名SSH学术期刊主编的12次半结构化访谈来回答我们的研究问题。我们使用“受尊重”一词来表示我们的重点是被公认为高质量学术平台的期刊(不包括所谓的“掠夺性期刊”等)。这项研究遵循了芬兰国家研究诚信委员会的指导方针,根据该指导方针,这种类型的研究不受伦理审查。在接触参与者之前,我们创建了一个采访结构和工作计划,并于2020年6月25日存储在开放科学框架中(https://osf.io/wjztp).他们的想法是,事先记录研究的问题和总体目标,可以建立可信度和信任,从而方便接触忙碌的主编,他们每天可能会收到许多联系请求。进一步的细节,如完整的问题列表和结果预期,我们没有透露,但被禁止,因为我们不想影响受访者的回答。在预注册和测试之后,对原来的21个问题做了一些小改动(最终问题列表见补充).所有问题都是向所有受访者提出的,尽管当我们不理解答案或当我们收到我们认为需要进一步探索的答案时,我们也会提出后续问题。

参与者

样本量不是由饱和度产生的;相反,它是由我们的估计预先确定的N= 12足以回答研究问题[20.21].我们并没有根据影响因子等指标来选择期刊,尽管根据这些数据,许多受访期刊的排名确实很高(四种期刊的平均影响因子为5.9)。我们的两种期刊根本没有被包括在2021年的影响因子排名中,但在丹麦和芬兰期刊排名中都处于最高级别(而一种具有非常高的影响因子的期刊属于最低级别)[22].此外,我们认为重要的是,不仅要包括不同学术领域的期刊,还要包括不同的概况和规模:来自最狭义领域的最小期刊每年仅发表约15篇文章,而三个最大的期刊的发表量都超过这个数量的5倍。

进一步的目标是平衡12次访谈,以便不同的期刊地理区域、分支学科和编辑性别都能得到代表。所有接受采访的主编都认为他们的期刊是多学科或跨学科的,即使他们的期刊专注于或起源于某一单一学科。我们列出了20家期刊,我们将通过个人电子邮件逐一联系它们,这样当我们的邀请被忽略或拒绝时,就会选择一家具有类似代表性的新期刊。由于时间限制,有两位编辑拒绝接受采访,还有四位没有回答,但我们毫不费力地找到了志愿者,因为其他编辑对讨论这个话题很感兴趣,也愿意在他们的日程安排中抽出时间。Twitter上也发布了公开的参与号召,但我们没有收到任何回应。

一些期刊有多个主编。在一次采访中,来自同一家杂志的两名编辑参加了采访;在另一次采访中,在初步沟通后,由另一位主编取代了另一位主编。为了保护他们的隐私,我们不会透露更多关于编辑或他们的期刊的细节。许多受访者明确要求匿名。综上所述,我们的方法可以被称为有目的抽样。期刊特征总结见表1

表1参与本研究的12种社会科学与人文学科期刊特征

数据与分析

访谈是在家庭办公室使用Zoom远程通信软件用英语进行的(在COVID-19大流行期间)。只有视频通话的音频部分被存储起来进行分析,其平均记录长度为67分钟(SD= 8)。一个受保护的大学云服务用于存储数据;每五年重新评估是否需要继续保存存储的数据。受访者在访谈前通过电子邮件被告知研究细节,在访谈开始时被告知更详细的研究细节,访谈期间还邀请受访者提出与研究相关的问题。以数字签名的PDF格式收集知情同意书。两位作者都出席了所有的采访,轮流提问。为了透明起见,我们声明两位作者都是资深的男性研究人员,其中三位受访者之前至少被我们中的一位联系过。第一作者曾有进行研究访谈的经验[2324].

访谈通过符合通用数据保护条例的服务(Konch.ai)转录成文本。所有文本都是在外部助理的帮助下进行校对的,因为大约10%的自动转录是不可读的。校对后的文本文件被上传到大学支持的Atlas上。Ti系统,用于基于软件的文本分析。为了组织数据以供使用(和潜在的重用),我们决定进行开放的描述性编码[25而不是直接寻求我们研究问题的答案。第一作者在没有预先设计的编码方案(总共533个代码)的情况下对所有文本进行编码,第二作者用标记感应式关闭读取数据(没有编码软件)。编码可靠性的测试是由外部助手对17%的数据进行单元化[26];由于助理没有学术同行评议的经验,我们没有追求高数字的相互评分者可靠性,而是通过谈判达成了协议[27].在合并重叠代码和编码协商后,剩下510个代码。

我们没有为新的编码回合追求主题或手册,而是通过共识来调和分歧[28].由于两位研究人员都参与了访谈和实际访谈的制定,在一天的会议中达成了一致。该协议形成了11个数据域,如表所示2

表2 12种社会科学与人文学科期刊访谈的数据域

第二作者检查了数据域,将部分映射为我们的三个研究问题的答案。由于数据领域的主题重叠,其中许多包含与多个研究问题相关的代码;然而,一些研究问题与某些数据领域密切相关。

  • RQ1:编辑、评论、科学。

  • RQ2:作者、评论者、发行商。

  • RQ3:决策,编辑,期刊,开放科学。

域“interview”与我们的rq关系不大,本文不讨论其内容。

我们不会系统地给出所有编码事件的实例数。我们承认,对数据采用定量方法也可能有用;然而,在这种情况下,目标期刊的入选标准应该更窄,以使其具有代表性(选定的子领域可以由12种期刊代表)。同样,由于目前的目标不是确定的,我们断言我们对数据的非定量分析更合适。由于一些受访者表达的隐私问题,我们不通过开放存储库共享我们的数据。有特殊兴趣的部分可按要求提供给通讯作者。

在论文发表前,我们采用了成员审核的方式,允许受访者对最新版本的稿件进行批评和评论。两名受访者提出了小的修改,这些修改被纳入最终出版物。

结果

我们从总结开始,下面是关于每个RQ的结果。总的来说,我们对12家知名SSH期刊主编的采访表明,他们强烈意识到公开同行评审的好处,但总体上更倾向于匿名评审。这一点在一位编辑的话中得到了最好的体现:

  • 我个人经常认为,学术界发生的许多过程应该是公开透明的……但我往往属于少数派,我的大多数同事都不同意我的观点。所以,我不确定,也许,你知道,也许我对人性太naïve,或者太乐观了。”(E5)

值得注意的是,所有期刊都使用双重匿名审稿,这也被广泛认为是作者和编辑默认遵循的“黄金标准”。在一个例外的情况下,双重匿名和公开审查都使用了,这取决于提交的内容。

偏爱双匿名同行评议的理由与我们第二个研究问题的三个领域系统相关:政策、伦理和实践。匿名同行评议被认为是可靠期刊必须满足的制度要求;此外,匿名化过程被认为是道德上优越的,因为它保护了作者和审稿人,同时也使后者的搜索更容易(许多审稿人拒绝在他们的报告上签名)。

遵循双重匿名格式,所有的编辑决定都是在作者姓名公开的情况下做出的,而三重匿名同行评议——决策者的身份也对作者保密,反之亦然——是不被认为(可行)的。主编们几乎没有意识到这有问题,但要么为这是科学出版的重要策展部分进行辩护(例如,保证来自所有群体的作者的公平待遇),要么解释用于分配他们权力的策略,例如,通过基于多个专家的意见做出决定。

高排名的SSH期刊如何看待开放的同行评审过程,这些看法在他们采用的实际过程中实现了吗?

受访期刊的编辑认为公开同行评议主要是匿名同行评议的一种(较弱的)选择,这些看法与他们的实践是一致的。尽管如此,匿名同行评审过程也被认为有其弱点。对于匿名的和公开的同行评审,主编发现了几个独特但相互关联的问题,我们将这些问题汇编到表格中3..除了这些问题之外,五位编辑报告说,同行评稿人有时过于草率,很少或根本没有向作者提供反馈。在这些情况下,评审报告通常被丢弃,并邀请新的评审人员。

表3 12种社会科学和人文学科期刊主编发现的公开和匿名同行评议问题

值得更详细地讨论这14个问题中的几个。首先,我们强调了被列为“机构信誉扫地”的概念,一些主编认为这甚至是考虑公开同行评审的一个关键障碍。即使世界领先的期刊(如自然)支持开放评审格式,许多受访者认为双匿名同行评审是默认的,并且认为他们不能在不牺牲可信度的情况下放弃它。这些标准的谱系在期刊的早期显得尤为重要:

  • 我们不想以任何方式创新或激进。我们想要一份被认为是非常标准的传统科学学术期刊。”(E1)

同样,专注于较窄区域或学科的期刊也有其保持同行评议过程匿名的原因。由于可以利用的作者和审稿人较少,在几乎所有专家都认识的情况下,匿名化被认为是减少利益冲突的必要条件。一位编辑认为,特别是在小型、紧密联系的领域,基于姓名披露的点对点问责制可能很快就会演变成“人际关系和纪律(E9)。这位编辑还提到,经常需要修改审稿人的语言,因为他们的意见似乎是对编辑而不是作者说的,而且是以一种“可以在朋友间分享的语言,也就是说,不总是尊重。”所以,当然,我把它去掉了——这是不必要的和侮辱的,我重新措辞。另外三家杂志也报道了类似的政策,通过系统的审查报告编辑来保持尊重的语气。

对于一些主编来说,作者的身份在决策过程中也很重要。虽然大多数人认为双匿名同行评议是公平和客观的,但一位编辑认为真正的公平意味着在作者的职业发展和背景的背景下评估每一份提交(在所有阶段):

  • 我认为作者是谁很重要...我们有资深学者,知名人士,还有研究生。我认为作品的评价部分取决于作者的身份。所以我认为这对我来说很重要,我要做一些关于这方面的决定,知道这一点。这也意味着我必须有意识,尽可能地意识到我的偏见等等,我试着这样做。”(E2)

这也是唯一一份公开同行评议实践的期刊。它的审查过程由内部和外部专家组成,他们有时会公开发表评论。在另一个极端,主编认为透明度(即知道作者的身份)不道德,甚至在筛选时也追求完全匿名:

  • 我们希望有一个双盲审查过程,因为这是,就人们所知,选择出版内容的最公平的方式。当我筛选一份手稿时,我也会在没有任何作者信息的情况下进行筛选。可能会附上一个姓氏,但我通常不会在筛选之前查询这个人是谁。”(E1)

考虑到12种期刊中除了一种之外都采用了双重匿名同行评审流程,一个常见的问题是同行审稿人希望向作者透露自己的身份。当被问及这一问题时,三家期刊报告称,这类案例与同行评审开放倡议(Peer reviewer ' Openness Initiative)有某种联系[29].主编们以相反的方式处理这些请求:要么允许审稿人在报告上签字,要么拒绝披露。一位主编认为,这种透明度会挑战公认的价值观,其中包括尊重评论匿名性:

  • 我们已经说得很清楚了,我们的期刊是双盲同行评审期刊。当他们提交他们的作品时,这就是我们将遵循的做法。我相信,如果审稿人想让作者知道他或她的名字,这实际上是在推动一个作者可能不同意的价值体系。”(E4)

与上述一致,期刊的行为系统地依赖于各自期刊的上下文或惯例,这表明不同的期刊(代表不同的子学科)需要不同的审查方法。

  • 最终,我们都想发表尽可能最好的文章。所以如果一种方法对编委会有效,那就好。如果另一种方法适用于其他期刊,没问题。最后,人们将阅读最终出版的对学术有贡献的作品。在我看来,条条大路通罗马。”(E9)

一位代表人文学科的主编明确地指出,整个学科领域都落后于时代,一开始就缺乏适当的同行评议。据他们说,“人文学科的盲审甚至同行评议都太少了……我们一直过于依赖这种策展模式,这也给了编辑太多的权力——这是我们需要从其他领域学习的地方”(E1)。另一位主编将公开研究行为诊断为对不良研究行为的反应其他田野,自从"我们没有遇到过那种困难,我们可以真正地讨论一下它的好处和坏处”(E4)。与此同时,一位受访者认为,开放性本身与SSH无关:

  • 作者们似乎对开放科学没什么兴趣。我也花了一些时间在一个开放数据计划上,我很惊讶——我没有看到很多人真正感兴趣。我只看到他们耸耸肩。一种‘呃,这并不适用于我们,我为什么要这样做?这只是更多的工作,更多的努力。’”(E3)

除一种期刊外,所有期刊都支持书籍、叙述评论或批判性评论等出版格式,这些格式没有同行评审或同行评审方式不同。由于缺乏标准的审查流程,它们可能不会在晋升或招聘中发挥作用,尤其是对早期职业研究人员来说:

  • 要创造出一种不能让人们写在简历上的东西,在同行评议的期刊上发表,这对人们来说是一件非常困难的事情。对我来说,这是一种难以置信的挫败感,因为做一些对学术对话有价值的贡献的事情将不会算数。”(E3)

上述制度现实——只有传统同行评议的原创文章才会对人们的职业发展产生影响——也激励着编辑们将自己的时间和创新资源用于传统同行评议后的稿件。

主编如何在政策、伦理和实用主义之间定位期刊的评审和出版实践?

所有受访者的审查过程都涉及到当前政策、伦理挑战或务实问题的考虑。编辑们最基本的共识是,他们一致满意同行评议者的志愿工作,他们代表着经营学术期刊的务实基石。三家期刊用数字估计了“差评”报告的流行程度,声称它们占所有收到的报告的1-2%。为了保持高质量的评审过程,并确保评审系统在未来也能正常运行,受访者透露了他们跟踪内部和外部评审人员的系统和非系统方法。

  • 我们实际上有这个内部系统,我们大多数人都记得给评论者打分。当你出去寻找审稿人时,如果你在我们的系统中查看,你会看到是否有其他编辑对该审稿人的评价很低。”(E10)。

在上述和其他情况下,质量的概念很少仅仅是内容的问题,还包括可靠性和速度。不遵守最后期限或难以沟通的评审员也可能被归类为质量差,即使他们的反馈是适当的。

与审查过程的透明度相关,受访者列出了他们认为有话题的杂项元素。例如,一位主编谈到,在最后一篇文章中标记提交、修订和接受日期,作为一个功能,可以消除对过程的怀疑,然而,它也可能对期刊不利:

  • 我现在在一些期刊上看到注释的手稿在某某日期提交,某某日期接受,某某日期发表。“我不认为这对我们这样的杂志来说是一个很能说明问题的统计数据或数据点,在我看来,很多时间轴都不在我的控制范围内。但这是提高透明度的一部分。”(E6)

没有一家期刊为其外部同行审稿人提供经济补偿。找到免费的外部审稿人是期刊编辑的核心挑战之一,因为许多编辑都指出,在找到两个同意的人之前,让多达15个人进行审稿是很正常的。这种趋势有时被描述为越来越多("这是一种势头E5),在这种情况下,主编们感到没有能力解决问题,因为缺乏补偿他们仍然需要经营期刊的审查工作的手段:你如何奖励评论者?因为整个礼物经济依赖于评论者的无偿劳动”(E8)。像Publons这样的系统被认为是可能的解决方案,但警告说,它们不会消除志愿工作的原始问题。

代表期刊积极追求编辑多样性,例如,通过仔细管理委员会,考虑种族、性别和地区。尽管如此,两位主编对竟然会考虑到这种多样性表示惊讶。在外部评审过程中,定义多样性的关注点是关于学科或方法领域的,也就是说,拥有硬币的两面将有利于评审,特别是在两极分化的主题中。

更复杂的政策和实践问题是期刊指标,对一些人来说,它用于自我评估自己的表现(也由资助机构进行),而在另一方面,这种数值被认为是有缺陷和无关紧要的。半数主编表示对通常由出版商提供的统计数据感兴趣。只有那些期刊接受出版商审查的人才会觉得点击量、订阅量和其他指标在实践中很重要。当被问及影响因子时,受访者的回答从中等兴趣(“这当然对发行商很重要,但对我们也很重要, E12)到完全反抗("去他妈的影响因子,“E3)。

尽管除了一位主编外,所有主编都声称知道类似指标中的影响因子,但没有出版商或附属学术协会试图影响期刊政策。另一方面,编辑们普遍承认对他们期刊的成功感到满意,而且由于这种成功通常是通过期刊排名高和同行在该领域的认可来验证的,一些人认为在评估潜在的“高影响力”手稿时需要仔细的自我反思。

  • 这又回到了排名之类的概念。所以如果我想要更高,也许我应该发表更多权威的东西。我不想那样想,但我知道(现实)。那这对我的工作有什么影响呢?”(E2)

同样,这个问题通常与学术生涯和工作的现实联系在一起。即使编辑不认为度量相关,许多提交者也会考虑。通过这种方式,这些指标对期刊的形象和声望产生了影响,每当这些指标没有公开时,编辑们就会收到要求将其透明化的请求。

  • 我们偶尔会收到作者询问我们期刊影响因子的请求。这通常出现在作者要评审、升职或终身教职的时候。我还给他们写了信说参与终身教职评估不是我们的工作。”(E6)

总之,编辑们关于评审过程、管理和相关期刊指标的个人观点偶尔会与他们的伦理道德和期刊实践发生冲突。总的来说,主编们意识到了这一点,并经常积极寻求解决方案,但由于跨学术系统和领域的制度政策,这些解决方案难以实施。

主编如何定位自己在稿件审查过程中的强大角色,以及该角色如何协商审查过程的开放科学原则?

受访的主编普遍意识到自己的决策权,但正如之前的研究所发现的那样[19,他们不认为这有问题。尽管主编们对目前的匿名同行评议总体上感到满意,并且不打算很快改变它,但其他开放科学实践,如邀请作者分享他们的数据,以及让付费墙问题开放访问被提到[30.31].

所有接受采访的主编都采用了多个审查阶段,这些阶段在很大程度上遵循了Horbach和Halffman提出的模式。32,只有少数例外。在独立或隶属于较小出版商的期刊中,主编(和其他编辑)通常有多个职责领域,即集中参与所有阶段,有时还担任“外部”审稿人(在这种情况下,通常由不同的编辑处理稿件,允许审稿编辑匿名)(图2)。1).

图1
图1

12家社会科学和人文学科期刊的主编接受了本研究的采访,论文审稿过程分为四个阶段

最关键的编辑决定发生在同行评审过程的最开始,因为在没有外部审稿人的情况下,办公室接受和拒绝。有五个独特的原因被认为是办公桌拒绝的理由:不符合期刊范围整体素质差忽略相关文献狭窄或低冲击,以及以下情况太多类似的手稿已经在审查或出版.在一个例外的案例中,主编指出,几乎所有的案头拒绝都是因为该期刊的名称与其他不同概况的期刊相似,这使得作者系统地提交了涉及范围外主题的手稿。

在桌面阶段匿名被认为是不可能的和不切实际的。例如,一位受访者准备让助理们在办公桌上做决定,但要让主编以一种开放的方式监督这个过程:

  • 这必须是开放的。例如,你永远不会指派与作者在同一部门的审稿人。所以你需要知道作者在哪里。你还应该避免指派一个可能是作者顾问的审稿人。所以不能盲目,否则你只会把东西发给合著者或同事。比起作者的匿名性,我更关心评论者的匿名性。”(E8)

一家规模较小的期刊采用了一种与筛选阶段动态相反的系统:很大一部分投稿首先会被非正式地建议给主编,然后主编会从该领域的专家那里征求意见,以支持作者制定提案。只有这样,提案才会被提交,并接受双重匿名的同行评审,这样的接受率才会非常高。对于这位主编来说,从一开始就培养有前途的投稿可以加强期刊的质量,同时保证稳定的高质量出版物-这是一个可取的策略,因为“我们做的是出版,不是惩罚”(E9)。这种前馈形式的管理在后期阶段减少了对批判性反馈(和拒绝)的需求:”我认为我们在提交之前做得很好,所以作者可以自信地发送文章,并收到积极的、建设性的反馈”(E9)。所描述的过程让人想起“注册报告”文章的格式[33],这12家期刊都没有明确使用。

在一些期刊中,编辑的权力是通过筛选和完整的编辑审查来协调的。在这些情况下,一个或多个编辑人员阅读了整个手稿,并在进行外部评审之前提供了反馈(签名或匿名):

  • 有时我们收到来自(某个国家)的文章只有1.5页——然后就被拒绝了。但如果是一篇完整的文章,编辑经理会把它分配给其他编辑。然后是编辑的任务,检查文章。”(E10)

  • 主编们先看一看,然后我们可以马上给一张退稿单。但如果它更进一步,那么编委会的两名成员会阅读文本,并评估它是否适合进行审查。我们可能不会拒绝,但会发送‘好吧,还没有进行审核,但如果你做了这些更改,我们会重新考虑。’”(E7)

在外部评审阶段,编辑的权力不是直接的,而是体现在审稿人的选择上。这可以由总编辑或其他工作人员完成,也可以作为集体的努力。规模较大的期刊拥有拥有数百名潜在专家的审稿人数据库;规模较小的期刊将主要通过编辑人员的个人网络进行招聘。所有编辑都同意,学历是首要选择,并有一系列其他标准作为支持。

  • 因为他们被认为是专家。这是因为有时我们与他们有私交。这是因为他们更有责任感,因为他们是董事会成员。这也是因为他们熟悉期刊、期刊的方向、期刊的期望和质量水平。”(E5)

总的来说,在选择审稿人时,有九个独特的标准被认为是相关的:年龄偏见承诺政治/理论地位距离专业知识国籍个人喜好,建议.此外,有两家期刊以拥有“苛刻”或“超级”审稿人而自豪,这些审稿人可以用来完成最具挑战性的任务:

  • 还有我的超级审查员。他们是我刚刚学会信任的人。如果他们说他们会做,他们首先会做,但也擅长筛选,阅读和收集信息。这些人通常都是期刊编辑,或者只是有记录而已。如果我有一个副编辑的结构,这些人就是副编辑。”(E5)。

外部评审的作用在各期刊之间存在着一定程度的两极分化。一方面,某些编辑认为外部审查是咨询性的,而不是决策性的。这些编辑将自己的角色定义为策展人或类似于图书出版业的编辑。除了确保高质量的出版物,他们还认为自己有责任激发创新冲动,并帮助作者在合作过程中充分实现他们的概念。

  • 我们不会盲从同行评议,但话又说回来,没有认识到审稿人所说的内容的问题并没有真正出现——我们最终会阅读每一篇提交的文章,然后每一篇发表在期刊上的文章,我们都会审查我们每个人,不止一次。”(E11)

在另一个极端,一些主编完全清楚自己只是审稿人和被审稿之间的调解人。这些编辑首先追求的是科学质量的保证,在这种情况下,外部审稿人充当了“客观”的衡量标准。

  • 我倾向于把自己看作一个裁判。我没有资格做这些决定。我的工作就是尽我所能,确保审稿人是合适的,并且是公平的。我肯定会有错误。”(E8)。

值得注意的是,有时编辑评审会与外部评审合并。在这些情况下,内部编辑报告可以基于双匿名或单匿名原则交付。所有主编都没有对这些内部流程的披露表达担忧或政策,但我们也没有直接询问这些问题。

  • 有时情况会变得复杂,然后我问的人会是我们编委会的人,他过去曾给过我们很大的帮助,因为你基本上是在要求他们跟踪整个编辑历史。我会把所有的东西都发给他们,比如,‘这是历史,这是评论,你觉得怎么样。’”(E8)

尽管集体遵循并同意之前讨论的匿名外部审查的好处,但在修订阶段对匿名沟通提出了质疑。一位主编认为,在必要的“把关”被清除之后,最初的匿名流程将受益于增加透明度:

  • 通常更有用的是在双盲同行评审之后的半协作编辑过程。这才是真正的进步所在。这只是一种最初的把关方式,有时是有用的,有时是象征性的。”(E5)

在诸如上述的情况下,编辑们表达了个人对开放修订过程的喜欢,他们也引用了机构的要求,即如果不涉及匿名性,他们的期刊就不会作为适当的科学期刊索引。例如:

  • 我认为,一个完全开放的过程要合理得多。但另一个问题是,我曾在审查委员会工作过,有人说,如果没有通过双盲审查,它就不算数。所以我仍然认为有一个巨大的障碍需要克服,那就是我们如何让整个学院重视任何东西,而不是那种传统的双盲审查。”(E3)

在审稿后阶段,大多数期刊都强烈要求编辑助理进行技术质量保证,例如检查引文的完整性和完整性。在这一阶段,出现了实用主义差异,主要与期刊的融资方式有关。主要或完全由大学资助的期刊的补贴正在减少,而与协会或出版商关系密切的期刊似乎更加稳定。与出版社的关系被一致认为是和谐的,没有问题,除了一些期刊面临即将到来的生存能力定期审查的情况下有些不安。

只有一家期刊采用了技术手段来确保同行评审之外的质量控制,因为他们最近开始使用抄袭检测软件(“现在我们在系统里检查所有文件看是否有复发的可能”E12汽油)。

在透明度方面,这一阶段最重要的问题是,在做出积极的出版决定后,作者或审稿人的身份是否可以公开。

  • 当我发出接受通知并说“亲爱的某某,我们已经接受了你的文章”时,我也会把它发给审稿人。在我看来,在这一点上,我可以包括作者的名字。我是说,我们已经决定了。但我自动地把它拿出来了。但我一直在想,为什么我要把作者的名字去掉?”(E8)

最后,一些主编认为他们发表的文章属于科学进化的大统一体。也就是说,对出版物的同行评议不仅仅是在期刊中进行的,也不仅仅是由期刊进行的;相反,期刊评论是一篇文章生命中的一个评估事件,在发表后,同行在学术论坛上阅读和审查它:

  • 所以如果论文写得不好,就会被载入史册,就不会被引用。如果它确实有影响力,但有问题,就会有一些对话,会有一些批评,会有一些对比鲜明的结果,等等。”(E5)

从上述观点来看,编辑权力与更大的研究评估系统相结合,该系统在提交之前就已经开始,并在发表后继续进行。

讨论

在这项研究中,我们感兴趣的是知名SSH期刊如何看待开放的同行评审,以及它们自己的评审过程如何与这些看法保持一致。除一份期刊外,其余均采用了完全的双匿名同行评议。受访者表示,与匿名同行评议流程相比,公开同行评议流程被认为更不可靠、更不公平,这主要是因为前者缺乏对作者和审稿人的保护3.).然而,作为主编,他们认为在提交阶段获得作者的姓名是必不可少的,例如,为了能够选择合适的审稿人。在上述情况下,他们普遍认为双重匿名同行评议是道德和实践方面的“黄金标准”,而转向公开同行评议也可能导致失去机构支持和学术可信度。在SSH领域,同行评审中的匿名性可能被认为比其他领域更重要。鉴于越来越多的人呼吁加强学术刊物的事实核查[34],有关品质保证的问题是面试中重点关注的范畴。

我们还探讨了主编如何在政策、伦理和实用主义之间定位期刊的评论和出版实践。受访者系统地谈到了他们的期刊(双匿名)同行评审过程在很大程度上是由学术政策、伦理和实用主义挑战决定的。与此同时,期刊同行评议、审稿人选择和编辑监督的实践作为总体系统的一部分进行了语境化。在这个体系中,研究将经过大学伦理委员会和国家或国际资助机构的审查。然后,该期刊通过同行评议来评估研究的相关性和创新性,而与此同时,它本身也受到出版商或其他资助者的监督,主要是基于影响因子和下载量等成功标准。我们承认,像Plan-S这样的新兴指南和来自出版伦理委员会(COPE)等协会的最佳实践建议进一步复杂化了作者、资助者和期刊等之间的关系。与此同时,主编们对手段和质量表示满意,特别是对他们自己的出版物。一家期刊甚至开始使用软件工具来验证完整性和原创性;然而,外部同行审稿人的志愿工作在所有期刊中都被视为不变的实用主义基石。最后,我们的研究见证了这样一种观点,即编辑工作和同行评议不仅服务于研究出版,而且是提高所述研究质量的过程。

最后,我们感兴趣的是编辑如何在评审过程中定位自己的强大角色,以及他们如何在这个角色中协商开放科学原则。我们没有发现期刊明确地规范编辑权力,但编辑们表示意识到了这一点,并叙述了处理这一问题的各种隐含策略。组织科学期刊同行评议的语用学仍然难以完全符合普遍追求的职业道德——“论文确实要交给审稿人,但由编辑选择审稿人”[35].这个问题本身被认为是普遍的。一些主编通过自我政策来调节他们的权力,比如发表他们不同意但认为重要的文章,而另一些主编则在一个庞大的编辑团队中分配编辑职责。一些受访者是他们杂志的创始成员,他们觉得自己和杂志之间有很强的认同感。只有两例受访者报告了固定的主编任期,而有五例已经担任了十年或更长时间。拥有大型编委会和共同编辑职责的期刊可能有进一步微调的权力管理手段,这是我们的采访无法描绘的;未来的研究可能会进一步阐明这些问题。然而,我们必须强调的是,一些主编正在考虑为他们的期刊采取新的开放科学实践(比如要求数据共享)——如果他们有动机走向更开放的同行评审过程,那么这样做似乎没有实际的限制。

我们所有的受访者都强调了杂志概况选择、编辑和接受/拒绝投稿的复杂过程。尽管这些程序在所有期刊的网站上都有明确的说明,但即使是我们采访的经验丰富的编辑,也很难清楚地表达出所有重要的筛选和编辑评审阶段的选择过程的微妙之处,而且不容易以书面的、可概括的形式形式化。由此可见,审查标准如何,如“四大”所列负责期刊36——严密性、影响力、新颖性和恰当性——不容易衡量,最终在很大程度上取决于编辑或审稿人的主观立场。在此背景下,透明度与决定和如何是核心,因为标准本身可以作为解释的指导方针。在上述基础上,我们研究的一个关键结果是对同行评审透明度提出了一个简短的政策建议,而不仅仅是报告“公开”或“匿名”类型的外部专家报告——这只是任何评审过程的一小部分。而不是披露“在出版过程的哪个阶段进行评审”[36],期刊应该通过列出参与决策的利益相关者来传达同行评议的透明度要素一步一步,特别是如果该过程是“双匿名”(表4).

表4科学稿件同行评议中期刊决策的建议撰稿人名单。请注意,贡献者也可以匿名列出

限制

作为一项定性调查,我们的研究仅限于来自SSH学科的主编的一个小而不具代表性的样本——最值得注意的是,我们没有单独使用公开同行评议采访任何期刊(有一家期刊选择性地混合了匿名和开放)。虽然必须加上这一点作为限制,但我们可以回忆起以前的回顾[2只发现一个而仅Scimago一家就索引了近500种人文学科期刊。考虑到这一点,我们的参与者可能代表现实,而不是选择偏见。

在未来的研究中,所提出的研究结果可以作为假设,并在更大、更有代表性的编辑样本中进行定量测试。另一方面,在本研究或调查研究中,自我报告的实践从来都不是实际实践的直接证据——未来的研究也应该继续使用其他方法评估期刊实践。我们也没有采访SSH以外的主编,所以我们不知道这里提出的观点是SSH独有的,还是其他领域的主编也有这些观点。最后,由于部分受访者要求匿名,我们无法参与数据共享;然而,至少有一些受访者愿意公开分享他们的采访,即使没有编辑。

结论

学术期刊的科研稿件审稿过程由多个阶段组成。我们的研究表明,在社会科学和人文学科中,由于各种伦理、实践和政策相关的原因,采用双匿名化原则进行外部评审阶段通常被视为一种“黄金标准”,优于其开放式替代方案。至于这个而且在评审的其他阶段,我们建议期刊通过列出参与评审和决策的所有利益相关者来传达其流程的透明度要素。为了进一步提高其透明度,期刊可以在负责期刊平台(36].

数据和材料的可用性

由于一些受访者的要求,这些数据将保持保密。部分数据可根据要求与作者共享。

参考文献

  1. malivki M, Aalbersberg IJ, Bouter L, Ter Riet G.期刊对作者的指导:跨科学学科的横断面研究。PloS One. 2019;14(9):e0222157。

    文章谷歌学者

  2. 王鹏,王鹏。开放同行评审:现状与新兴模式。2019.第17届科学计量学与信息计量学国际会议,2019年9月2-5日,意大利罗马。可以从:https://trace.tennessee.edu/utk_infosciepubs/60/

    谷歌学者

  3. 范登艾登V,奈特G,弗拉德A,拉德勒B,特诺皮尔C,里昂D,等。惠康研究人员对开放研究的态度调查2016.https://doi.org/10.6084/m9.figshare.4055448.v1

    谷歌学者

  4. 数字人文时代同行评议的反思。《性别、新媒体与技术》2014;4(4)。doi:https://doi.org/10.7264/N3WQ0220

  5. 琼斯L,范Rossum J, Mehmani B, Black C, Kowalczuk M, Alam S, Moylan E, Stein G, Larkin A.同行评审标准分类。OSF;2021年[引自2021年4月15日]osf.io / 68 rnz

    谷歌学者

  6. Tennant JP, Ross-Hellauer T.我们理解同行评议的局限性。Res Integr Peer Rev. 2020;5(1):1 - 14。https://doi.org/10.1186/s41073-020-00092-1

    文章谷歌学者

  7. 社会科学中的定性数据保存和共享:基于谁的哲学术语?科学通报。2009;44(3):291-307。https://doi.org/10.1002/j.1839-4655.2009.tb00147.x

    文章谷歌学者

  8. 定性二级数据分析:伦理学,认识论和背景。研究进展。2013;13(4):295-306。https://doi.org/10.1177/1464993413490479

    文章谷歌学者

  9. Guetzkow J, Lamont M, Mallard G.什么是人文和社会科学的独创性?《现代社会》,2004;69(2):190-212。https://doi.org/10.1177/000312240406900203

    文章谷歌学者

  10. Munafò M, Nosek B, Bishop D, Button KS, Chambers CD, Percie du Sert N,等。可复制科学的宣言。纳特·胡姆·贝哈夫,2017;1:0021。https://doi.org/10.1038/s41562-016-0021

    文章谷歌学者

  11. 皮尔斯R,博特L.复制在人文学科的可能性和可取性。帕尔格雷夫社区。2018;4(1):1 - 4。https://doi.org/10.1057/s41599-018-0149-x

    文章谷歌学者

  12. Glonti K, Boutron I, Moher D, Hren D.期刊编辑对生物医学期刊同行审稿人角色和任务的看法:一项定性研究。英国医学杂志,2019;9(11):e033421。https://doi.org/10.1136/bmjopen-2019-033421

    文章谷歌学者

  13. Gaudino M, Robinson NB, Di Franco A, Hameed I, Naik A, demeters M,等。改善生物医学同行评议过程的实验干预效果:系统评价和荟萃分析。中国心脏杂志,2010;10(15):e019903。https://doi.org/10.1161/JAHA.120.019903

    文章谷歌学者

  14. 戈尔曼通用电气。学术期刊出版中的奥本海姆效应。网络信息学报,2007;31(4):417-9。https://doi.org/10.1108/14684520710780386

    文章谷歌学者

  15. 张敏,张志强,张志强。单盲和双盲同行评审的审稿人偏见。中国科学:自然科学,2017;29(4):344 - 344。https://doi.org/10.1073/pnas.1707323114

    文章谷歌学者

  16. Wold A, Wennerås C.同行评议中的裙带关系和性别歧视。大自然。1997;387(6631):341 - 3。https://doi.org/10.1038/387341a0

    文章谷歌学者

  17. Squazzoni F, Bravo G, Farjam M, Marusic A, Mehmani B, Willis M,等。同行评议与性别偏见:对145种学术期刊的研究。科学。放置2021;7 (2):eabd0299。https://doi.org/10.1126/sciadv.abd0299

    文章谷歌学者

  18. Wager E, Fiack S, Graf C, Robinson A, Rowlands I.科学期刊编辑对出版伦理的看法:一项国际调查的结果。医学伦理杂志,2009;35(6):348-53。https://doi.org/10.1136/jme.2008.028324

    文章谷歌学者

  19. Lipworth WL, Kerridge IH, Carter SM, Little M.期刊同行评审:生物医学出版中稿件评审的社会和主观维度的定性研究。中华医学科学杂志,2011;32(7):1056-63。https://doi.org/10.1016/j.socscimed.2011.02.002

    文章谷歌学者

  20. Braun V, Clarke V,饱和还是不饱和?对数据饱和作为主题分析和样本量理论的有用概念提出质疑。体育运动健康。2021;13(2):201-16。https://doi.org/10.1080/2159676X.2019.1704846

    文章谷歌学者

  21. 亨尼克MM,凯撒BN,马可尼VC。代码饱和与含义饱和:多少次面试才够?合格卫生决议2017;27(4):591-608。https://doi.org/10.1177/1049732316665344

    文章谷歌学者

  22. 公共科学图书馆医学编辑。影响因子游戏。公共科学图书馆。2006;3(6):e291。https://doi.org/10.1371/journal.pmed.0030291

    文章谷歌学者

  23. Karhulahti VM。电子竞技游戏:心理发展中的预期、依恋和成瘾。纽约:布卢姆斯伯里学院;2020.

  24. Siutila M, Karhulahti VM。持续游戏:休闲参与竞技格斗游戏和跆拳道。Ann Leisure Res. 2021:1-17。https://doi.org/10.1080/11745398.2020.1865173

  25. Saldaña J.定性研究者的编码手册。第二版。千橡,加州:鼠尾草;1999.

    谷歌学者

  26. Hodson R.分析跟单账目。加州千橡市:鼠尾草;1999.https://doi.org/10.4135/9781412983372

    谷歌学者

  27. Campbell JL, Quincy C, Osserman J, Pedersen好的。编码深度半结构化访谈:单元化和编码器之间的可靠性和一致性问题。社会方法,2013;42(3):294-320。https://doi.org/10.1177/0049124113500475

    文章谷歌学者

  28. 对叙述数据进行编码时建立可靠性的指南。成年初显。2015;3(6):375-87。https://doi.org/10.1177/2167696815587648

    文章谷歌学者

  29. Morey RD, Chambers CD, Etchells PJ, Harris CR, Hoekstra R, Lakens D,等。同行评审开放倡议:通过同行评审激励开放研究实践。自然科学进展,2016;3(1):1553 - 1553。https://doi.org/10.1098/rsos.150547

    文章谷歌学者

  30. Crüwell S,斯特凡AM,埃文斯新泽西州。认知科学的可靠标准。计算机学报。2019;2(3-4):255-65。https://doi.org/10.1007/s42113-019-00049-8

    文章谷歌学者

  31. Nosek BA, Alter G, Banks GC, Borsboom D, Bowman SD, Breckler SJ,等。促进开放的研究文化。科学。2015;348(6242):1422 - 5。https://doi.org/10.1126/science.aab2374

    文章谷歌学者

  32. 霍巴赫SP,哈尔夫曼W.创新编辑实践:学术出版商在工作。Res Integr Peer Rev. 2020;5(1):1 - 15。

    文章谷歌学者

  33. 心理学的七宗罪:改革科学实践文化的宣言。普林斯顿:普林斯顿大学出版社;2017.https://doi.org/10.1515/9781400884940

    谷歌学者

  34. Müller MJ, Landsberg B, Ried J.科学欺诈:对研究新文化的呼吁。中华临床医学杂志,2014;29(4):433 - 438。https://doi.org/10.1038/ejcn.2014.17

    文章谷歌学者

  35. 一圈一圈的玫瑰:管理研究中的质量期刊与策略。管理研究。2007;44(4):640-55。https://doi.org/10.1108/01409170810892154

    文章谷歌学者

  36. 责任期刊[互联网]。莱顿:科学和技术研究中心;2021年[引自2021年7月7日]。可以从https://www.responsiblejournals.org

下载参考

确认

我们感谢所有参与者分享他们宝贵的时间,使这项研究成为可能。我们感谢Urho Tulonen, Antti Päivinen和Annette Nielsen的帮助。在对本文进行同行评审期间,VMK参加了由Hannah Metzler和Jana Lasser主持的SIPS2021会议“改进跨学科评审”。对于本文中可能受到这些讨论影响的任何想法,都应该归功于HM、JL和其他会议参与者。

资金

该研究获得芬兰科学院资助(312397)。

作者信息

作者及隶属关系

作者

贡献

两位作者在概念化、数据管理、形式化分析、资金获取、调查、项目管理、资源、验证、可视化和写作方面都有同样的贡献。VMK对软件分析做出了贡献。作者阅读并批准最终的手稿。

相应的作者

对应到名叫veli - matti Karhulahti

道德声明

发表同意书

收集所有参与者的数字签名知情同意书。

相互竞争的利益

关于这份手稿,我们没有利益冲突。

额外的信息

出版商的注意

伟德体育在线施普林格自然对出版的地图和机构从属关系中的管辖权主张保持中立。

补充信息

权利和权限

开放获取本文遵循知识共享署名4.0国际许可协议,允许以任何媒介或格式使用、分享、改编、分发和复制,只要您对原作者和来源给予适当的署名,提供知识共享许可协议的链接,并注明是否有更改。本文中的图像或其他第三方材料包含在文章的创作共用许可协议中,除非在材料的信用额度中另有说明。如果材料未包含在文章的创作共用许可协议中,并且您的预期使用不被法定法规所允许或超出了允许的使用范围,您将需要直接获得版权所有者的许可。如欲查看本牌照的副本,请浏览http://creativecommons.org/licenses/by/4.0/.创作共用公共领域奉献弃权书(http://creativecommons.org/publicdomain/zero/1.0/)适用于本条所提供的资料,除非在资料的信用额度中另有说明。

转载及权限

关于本文

通过CrossMark验证货币和真实性

引用本文

Karhulahti VM。, back, HJ。同行评议的透明度:与社会科学和人文学科主编的半结构化访谈研究。Res integral Peer Rev6, 13(2021)。https://doi.org/10.1186/s41073-021-00116-4

下载引用

  • 收到了

  • 接受

  • 发表

  • DOIhttps://doi.org/10.1186/s41073-021-00116-4

关键字

  • 道德
  • Journalology
  • 开放的科学
  • 同行评审
  • 社会科学与人文科学
Baidu
map