Skip to main content
Colombia Médica : CM logoLink to Colombia Médica : CM
editorial
. 2024 Jun 30;55(2):e1006725. doi: 10.25100/cm.v55i2.6725
View full-text in Spanish

The art of validating science: four centuries of peer review

El arte de validar la ciencia: cuatro siglos de la revisión por pares

Mauricio Palacios Gómez 1,
PMCID: PMC11974505  PMID: 40196873

Denis de Sallo, the first editor of the world’s first scientific journal, Journal des Sçavans, wrote the following warning in the inaugural issue, published on January 5, 1665, in Paris: “Our aim is to report the ideas of others without guaranteeing them”1. This statement remains relevant in today’s scientific journals, as we have spent nearly four centuries trying to ensure the quality of published information-an endeavor first formalized by Henry Oldenburg, the founding editor of Philosophical Transactions and widely regarded as the father of peer review 2. Oldenburg embodied all the qualities of a good editor: he published 136 issues of the emerging journal while also experiencing the unintended consequences of his invention. One of the most famous episodes was his conflict with Isaac Newton, who was so uncomfortable with the peer review process that he never published a single research article in the journal, choosing instead to communicate his ideas and findings through books 3.

Since its inception, the publication of scientific articles has required editors to make three key decisions: to reject manuscripts of low quality, to accept those that are sound and consistent with the methods and results of the time, or to seek the opinion of an expert when a manuscript presents an innovative or potentially controversial idea that challenges the scientific status quo. The peer reviewer thus plays a key, albeit limited, role: assisting the editor in deciding whether a manuscript should be published and, if deemed worthy of publication, providing observations that add value to an already completed piece of work.

That expert also had to fulfill another essential requirement: being responsible with the document sent for review, as no additional copies existed. This early problem marked the beginning of several limitations that technological advances later helped to overcome. The most significant changes in the peer review process have been linked to inventions that facilitated its implementation. Blind peer review, adopted by the British Medical Journal in 1893 4, became possible thanks to the invention of the typewriter and carbon paper; its widespread adoption by most journals depended on the introduction of the photocopier by Xerox, while the use of external reviewers only became feasible with the advent of the internet and email, which allowed the process to become faster and more global. In this new millennium, editorial content management systems have improved editorial efficiency, but have also increased the pressure on peer reviewers. Now, we await the contributions that artificial intelligence might bring to the intellectual work of peer review (Figure 1) 5.

Figure 1. Evolution of Peer Review and Editorial Technologies in Scientific Journals (1665–2020s).

 Figure 1

Paradoxically, the same technology that enabled peer review has also increased the demand for it, and to this day, the need for reviewers exceeds the available supply. The consequences remain similar to those at the dawn of scientific journals: delays in publication timelines, outcomes that do not meet expectations, and concerns about fairness. Complaints about peer review have changed little since the early 20th century: “Reviewers are overworked. The problem of bias is unsolvable. The arbitration system has failed and become an obstacle to scientific progress. Traditional peer review is an outdated method that may have once benefited science but is now obsolete”6. These concerns mirror those of BMJ editor Richard Smith (1991-2004) in the 21st century: “(Peer review) ... is slow, expensive, poor at detecting errors, largely a lottery, prone to bias and abuse, unable to protect against fraud, and anti-innovative as it tends to reject truly original research”7.

Despite such harsh criticisms, the system has not disappeared-partly because a large majority of academics still trust the process, and because there is no well-supported alternative that effectively replaces peer review. Nonetheless, alternative models have been proposed, including open review, post-publication review, and the publication of peer reviewers' comments alongside the article 5.

At present, the most promising initiatives are those that seek not to solve the problems of peer review, but to better understand them. Peer review is a construct of the editorial process; however, the intellectual process it entails, as well as the expectations placed upon it, vary significantly between reviewers. The direction that the editor wishes to give to the identity of the journal also plays a role.

Recently, Waltman and colleagues proposed a classification of “schools of thought” on peer review in scientific publishing, with the aim of understanding the various approaches and tensions that shape evaluation practices (Table 1) 8. This framework is particularly useful for editors, as it helps define clearer guidelines for authors and reviewers aligned with each journal’s editorial objectives. A notable example is PLOS ONE, which has declared its focus on prioritizing data quality and reproducibility over scientific novelty. This stance offers a clearer approach to the “rules of the game” for both authors and readers of the journal 9,10.

Table 1. Schools of thought on peer review in scientific publishing 8 .

School of Thought Main Focus Key Objectives Proposed Improvements
Quality and Reproducibility Ensuring the accuracy and replicability of scientific results. Improve methodological quality and transparency in data presentation. Implement rigorous standards, promote study preregistration, and encourage publication of data and protocols.
Democracy and Transparency Fostering openness and participation in the peer review process. Increase transparency in evaluations and broaden the diversity of voices in peer review. Publish review reports, reveal reviewer identities, and allow public comments.
Equity and Inclusion Addressing bias and promoting diversity in peer review. Ensure equitable representation and remove barriers for underrepresented groups. Enforce inclusive policies, train reviewers in unconscious bias, and monitor diversity in review processes.
Efficiency and Incentives Optimizing the review process to make it faster and more rewarding. Reduce delays in publication and provide incentives for reviewers. Use technological tools to streamline review, offer formal recognition, and introduce reviewer rewards.

There may be a distorted expectation about peer review, as the very name of the process suggests a thorough examination-one capable of verifying data and references to prevent the publication of erroneous information that could harm both science and society. However, if the process were truly infallible, we would not be facing a concerning rise in the number of scientific article retractions 11. Even worse, many low-quality studies that have negatively impacted the credibility of science and public health have not been retracted. A shameful example is Study 329 12,13.

In response to these issues, technological advances in artificial intelligence have been developed to assist peer reviewers 14. The use of plagiarism detection software has become an editorial standard, and tools for detecting improper use of AI in manuscripts and image manipulation are rapidly advancing. Additionally, algorithms are being implemented to screen for correct statistical analysis and to review data in tables. Medical journals have a further advantage: they have developed reporting guidelines to improve the replicability and reproducibility of research, compiled in the EQUATOR Network portal 15. These guidelines can be integrated with AI systems to verify editorial requirements and generate recommendations on the structure and content of manuscripts.

Nevertheless, peer reviewers will remain the main intellectual asset of scientific publishing. There is a longstanding debt to them: their dedication, the anonymity of their work, and the fact that it is unpaid stand in stark contrast to the costs that authors or readers must bear to access journals. Twenty years ago, the professionalization of editorial work was promoted; today, it is essential to establish formal training schools for peer reviewers and to dignify this role, which sustains journals and science as we understand its validation.

References

  • 1.1. Kronick DA. Peer Review in 18th-Century Scientific Journalism. JAMA. 1990; 263(10):1321-2. Doi: 10.1001/jama.1990.03440100021002 [PubMed]; Kronick DA. Peer Review in 18th-Century Scientific Journalism. JAMA. 1990;263(10):1321–1322. doi: 10.1001/jama.1990.03440100021002. [DOI] [PubMed] [Google Scholar]
  • 2.2. Dutta Majumder P. Henry Oldenburg: The first journal editor. Indian J Ophthalmol. 2020; 68(7): 1253. Doi: 10.4103/ijo.IJO_269_20 [DOI] [PMC free article] [PubMed]; Dutta Majumder P. Henry Oldenburg The first journal editor. Indian J Ophthalmol. 2020;68(7):1253–1253. doi: 10.4103/ijo.IJO_269_20. [DOI] [PMC free article] [PubMed] [Google Scholar]
  • 3.3. Hall AR, Hall MB. Why Blame Oldenburg? Isis. 1962;53(4):482-91.; Hall AR, Hall MB. Why Blame Oldenburg. Isis. 1962;53(4):482–491. [Google Scholar]
  • 4.4. Horbach SPJM( S, Halffman W( W. The changing forms and expectations of peer review. Res Integr Peer Rev. 2018; 3(1): 8. Doi: 10.1186/s41073-018-0051-5 [DOI] [PMC free article] [PubMed]; Horbach SPJM. The changing forms and expectations of peer review. Res Integr Peer Rev. 2018;3(1):8–8. doi: 10.1186/s41073-018-0051-5. [DOI] [PMC free article] [PubMed] [Google Scholar]
  • 5.5. Drozdz JA, Ladomery MR. The Peer Review Process: Past, Present, and Future. Br J Biomed Sci. 2024; 81: 12054. Doi: 10.3389/bjbs.2024.12054 [DOI] [PMC free article] [PubMed]; Drozdz JA, Ladomery MR. The Peer Review Process: Past, Present, and Future. Br J Biomed Sci. 2024;81:12054. doi: 10.3389/bjbs.2024.12054. [DOI] [PMC free article] [PubMed] [Google Scholar]
  • 6.6. Csiszar A. Peer review: Troubled from the start. Nature. 2016; 532(7599): 306-8. DOI: 10.1038/532306a [DOI] [PubMed]; Csiszar A. Peer review Troubled from the start. Nature. 2016;532(7599):306–308. doi: 10.1038/532306a. [DOI] [PubMed] [Google Scholar]
  • 7.7. Smith R. Peer reviewers-time for mass rebellion? theBMJopinion, BMJ; 2021. Available from: https://blogs.bmj.com/bmj/2021/02/01/richard-smith-peer-reviewers-time-for-mass-rebellion/ ; Smith R. Peer reviewers-time for mass rebellion? theBMJopinion, BMJ; 2021. https://blogs.bmj.com/bmj/2021/02/01/richard-smith-peer-reviewers-time-for-mass-rebellion/ [Google Scholar]
  • 8.8. Waltman L, Kaltenbrunner W, Pinfield S, Woods HB. How to improve scientific peer review: Four schools of thought. Learn Publ. 2023; 36(3): 334. doi: 10.1002/leap.1544 [DOI] [PMC free article] [PubMed]; Waltman L, Kaltenbrunner W, Pinfield S, Woods HB. How to improve scientific peer review Four schools of thought. Learn Publ. 2023;36(3):334–334. doi: 10.1002/leap.1544. [DOI] [PMC free article] [PubMed] [Google Scholar]
  • 9.9. Federer LM. Long-term availability of data associated with articles in PLOS ONE. PLoS One. 2022; 17(8): e0272845. doi: 10.1371/journal.pone.0272845. [DOI] [PMC free article] [PubMed]; Federer LM. Long-term availability of data associated with articles in PLOS ONE. PLoS One. 2022;17(8):e0272845. doi: 10.1371/journal.pone.0272845. [DOI] [PMC free article] [PubMed] [Google Scholar]
  • 10.10. Seibold H, Czerny S, Decke S, Dieterle R, Eder T, Fohr S, et al. A computational reproducibility study of PLOS ONE articles featuring longitudinal data analyses. PLoS One. 2021; 16(6): e0251194. doi: 10.1371/journal.pone.0251194 [DOI] [PMC free article] [PubMed]; Seibold H, Czerny S, Decke S, Dieterle R, Eder T, Fohr S. A computational reproducibility study of PLOS ONE articles featuring longitudinal data analyses. PLoS One. 2021;16(6):e0251194. doi: 10.1371/journal.pone.0251194. [DOI] [PMC free article] [PubMed] [Google Scholar]
  • 11.11. Else H. Biomedical paper retractions have quadrupled in 20 years - why? Nature. 2024; 630(8016): 280-1. doi: 10.1038/d41586-024-01609-0 [DOI] [PubMed]; Else H. Biomedical paper retractions have quadrupled in 20 years - why? Nature. 2024;630(8016):280–281. doi: 10.1038/d41586-024-01609-0. [DOI] [PubMed] [Google Scholar]
  • 12.12. Keller MB, Ryan ND, Strober M, Klein RG, Kutcher SP, Birmaher B, et al. Efficacy of paroxetine in the treatment of adolescent major depression: A randomized, controlled trial. J Am Acad Child Adolesc Psychiatry. 2001; 40(7): 762-72. DOI: 10.1097/00004583-200107000-00010 [DOI] [PubMed]; Keller MB, Ryan ND, Strober M, Klein RG, Kutcher SP, Birmaher B. Efficacy of paroxetine in the treatment of adolescent major depression A randomized, controlled trial. J Am Acad Child Adolesc Psychiatry. 2001;40(7):762–772. doi: 10.1097/00004583-200107000-00010. [DOI] [PubMed] [Google Scholar]
  • 13.13. Doshi P. No correction, no retraction, no apology, no comment: paroxetine trial reanalysis raises questions about institutional responsibility. BMJ. 2015; 351: h4629. doi: 10.1136/bmj.h4629. [DOI] [PubMed]; Doshi P. No correction, no retraction, no apology, no comment: paroxetine trial reanalysis raises questions about institutional responsibility. BMJ. 2015;351:h4629. doi: 10.1136/bmj.h4629. [DOI] [PubMed] [Google Scholar]
  • 14.14. Bauchner H, Rivara FP. Use of artificial intelligence and the future of peer review. Heal Aff Sch. 2024; 2(5): qxae058. doi: 10.1093/haschl/qxae058. [DOI] [PMC free article] [PubMed]; Bauchner H, Rivara FP. Use of artificial intelligence and the future of peer review. Heal Aff Sch. 2024;2(5):qxae058–qxae058. doi: 10.1093/haschl/qxae058. [DOI] [PMC free article] [PubMed] [Google Scholar]
  • 15.15. Altman DG, Simera I. A history of the evolution of guidelines for reporting medical research: the long road to the EQUATOR Network. J R Soc Med. 2016; 109(2): 67-77. doi: 10.1177/0141076815625599. [DOI] [PMC free article] [PubMed]; Altman DG, Simera I. A history of the evolution of guidelines for reporting medical research the long road to the EQUATOR Network. J R Soc Med. 2016;109(2):67–77. doi: 10.1177/0141076815625599. [DOI] [PMC free article] [PubMed] [Google Scholar]
Colomb Med (Cali). 2024 Jun 30;55(2):e1006725. [Article in Spanish]

El arte de validar la ciencia: cuatro siglos de la revisión por pares


Denis de Sallo, el primer editor de la primera revista científica del mundo, Journal des Scavans, escribió la siguiente advertencia en el primer número de la publicación el 5 de enero de 1665 en París: «Nuestro objetivo es informar sobre las ideas de otros sin garantizarlas» 1. Esta frase sigue vigente hoy en día en todas las revistas científicas, ya que llevamos cuatro siglos “intentando” garantizar la calidad de la información, como lo propuso Henry Oldenburg, el primer editor de la revista Philosophical Transactions y considerado el padre de la revisión por pares 2. Oldenburg encarnó todos los atributos de un buen editor: publicó 136 números de la naciente revista y, al mismo tiempo, experimentó los efectos adversos de su invención, la revisión por pares. Uno de los episodios más célebres fue su conflicto con Isaac Newton, quien, profundamente incómodo con el proceso de revisión por pares, nunca publicó un solo artículo de sus investigaciones en la revista, prefiriendo comunicar sus ideas y hallazgos a través de libros 3.

Desde sus inicios, la publicación de artículos científicos ha implicado tres tipos de decisiones fundamentales para el editor: rechazar los trabajos de baja calidad, aceptar aquellos que fueran válidos y acordes con los métodos y resultados científicos de su época, o bien, solicitar la opinión de un experto cuando el manuscrito planteaba una idea innovadora o potencialmente polémica que pudiera desafiar el statu quo de la ciencia. El par evaluador cumple entonces un papel clave, limitado pero crucial: ayudar al editor a decidir si un manuscrito debe publicarse o no y, en caso de que sea considerado meritorio de publicación, aportar observaciones que le confieran valor añadido a un trabajo ya terminado.

Ese experto debía cumplir con otro requisito fundamental: ser responsable con el documento que se le enviaba a examinar, ya que no existían copias adicionales. Este primer problema marcó el inicio de otras limitaciones que los avances tecnológicos contribuyeron a solucionar. Los cambios más significativos en el proceso se han asociado a inventos que facilitaron su implementación. La revisión por pares ciego, adoptada por el British Medical Journal en 1893 4, fue posible gracias a la invención de la máquina de escribir y el papel carbón; la adopción generalizada de este sistema por la mayoría de las revistas dependió de la introducción de la fotocopiadora por Xerox y el uso de evaluadores externos solo fue viable con la aparición de internet y el correo electrónico, lo que permitió agilizar y globalizar el proceso de revisión. En este nuevo milenio, los programas gestores de contenido editorial han aportado a la eficiencia editorial; pero, aumentando la presión a los pares evaluadores, y estamos expectantes a la contribución de la inteligencia artificial al trabajo intelectual de los revisores pares (Figura 1) 5.

Figura 1. Evolución de la revisión por pares y las tecnologías editoriales en las revistas científicas (1665–2020s).

Figura 1

Paradójicamente, la misma tecnología que se ha implementado en la revisión por pares; también, aumentó las solicitudes de sus servicios, y hasta el día de hoy, la demanda de pares revisores es mayor que la oferta. Las consecuencias son las mismas que en los principios de las revistas: demora en los tiempos de publicación, resultados diferentes a las expectativas del proceso y cuestionamiento acerca de la imparcialidad. Las quejas acerca de la revisión por pares no han cambiado mucho desde principios del siglo XX: «Los árbitros están sobrecargados de trabajo. El problema del sesgo es insoluble. El sistema de arbitraje ha fracasado y se ha convertido en un obstáculo para el progreso científico. El arbitraje tradicional es una forma anticuada que pudo haber sido beneficiosa para la ciencia en el pasado, pero ya es hora de ponerle fin» 6. a las del Editor del BMJ (1991-2004), Richard Smith, en el siglo XXI: «(la revision por pares) … es lenta, costosa, deficiente para detectar errores, en gran medida una lotería, propensa al sesgo y al abuso, incapaz de proteger contra el fraude y anti innovadora, ya que tiende a rechazar la investigación verdaderamente original» 7.

Estas opiniones lapidarias no han logrado hacer que este sistema desaparezca, en parte porque una gran mayoría de los académicos confía en el proceso y porque no existe una propuesta sustentada que reemplace efectivamente la revisión por pares. Sin embargo, sí se han planteado modelos alternativos, como la revisión abierta, la revisión post-publicación y la publicación del artículo acompañada de los comentarios de los pares durante el proceso editorial 5.

En este momento, resultan más interesantes las iniciativas que no buscan resolver los problemas de la revisión por pares, sino comprenderlos. La revisión por pares es un invento del proceso editorial; sin embargo, el proceso intelectual que implica, así como lo que se espera de él, varía considerablemente entre evaluadores. También influye la dirección que el editor desea dar a la identidad de la revista.

Recientemente, Waltman y colaboradores propusieron una clasificación en "escuelas de pensamiento" sobre la revisión por pares de manuscritos científicos, con el objetivo de entender los distintos enfoques y las tensiones que surgen en las formas de evaluación (Tabla 1) 8. Este trabajo es particularmente interesante y útil para los editores, ya que les permite generar directrices más claras para autores y evaluadores, alineadas con los objetivos editoriales. Un ejemplo notable es PLOS ONE, que ha declarado su interés en priorizar la calidad y la reproducibilidad de los datos por encima de la relevancia científica. Esta postura ofrece una aproximación más clara a las "reglas del juego", tanto para quienes escriben como para quienes leen los artículos publicados en esta revista 9,10.

Tabla 1. Escuelas de pensamiento de la revisión por pares de publicaciones científicas 8 .

Escuela de Pensamiento Enfoque Principal Objetivos Clave Propuestas de Mejora
Calidad y Reproducibilidad Garantizar la precisión y replicabilidad de los resultados científicos. Mejorar la calidad metodológica y la transparencia en la presentación de datos. Implementar estándares rigurosos, promover la preregistración de estudios y fomentar la publicación de datos y protocolos.
Democracia y Transparencia Fomentar la apertura y la participación en el proceso de revisión por pares. Aumentar la transparencia en las evaluaciones y ampliar la diversidad de voces en la revisión. Publicar informes de revisión, revelar la identidad de los revisores y permitir comentarios públicos.
Equidad e Inclusión Abordar sesgos y promover la diversidad en la revisión por pares. Garantizar una representación equitativa y eliminar barreras para grupos subrepresentados. Implementar políticas que promuevan la inclusión, capacitar a revisores en sesgos inconscientes y monitorear la diversidad en los procesos de revisión.
Eficiencia e Incentivos Optimizar el proceso de revisión para hacerlo más rápido y motivador. Reducir retrasos en la publicación y proporcionar incentivos para revisores. Utilizar herramientas tecnológicas para agilizar la revisión, ofrecer reconocimiento formal y recompensas para los revisores.

Tal vez exista una expectativa distorsionada sobre la revisión por pares, ya que el propio nombre del proceso sugiere un examen exhaustivo, capaz de verificar datos y referencias para evitar la publicación de información errónea que pueda perjudicar a la ciencia y a la sociedad. Sin embargo, si el proceso fuera realmente infalible, no estaríamos enfrentando un preocupante aumento en el número de retractaciones de artículos científicos 11. Peor aún, muchas investigaciones de baja calidad que han tenido consecuencias negativas sobre el prestigio de la ciencia y la salud pública no han sido retractadas. Un deshonroso ejemplo es el caso del Estudio 32912,13.

En esta dirección, se han desarrollado avances tecnológicos en inteligencia artificial para asistir a los revisores por pares 14. El uso de programas para la detección de plagio se ha convertido en una norma editorial, y los programas para la detección del uso inadecuado de la inteligencia artificial en los manuscritos, y de manipulación de imágenes tienen desarrollos importantes. Adicionalmente, se están implementando algoritmos para tamizar el uso correcto del análisis estadístico y para revisar los datos de las tablas. Las revistas médicas tienen una ventaja adicional porque han desarrollado guías de publicación para mejorar la replicabilidad y reproductibilidad de las investigaciones, compiladas en el portal Equator Network 15. Estas guías pueden integrarse con sistemas de inteligencia artificial para verificar requisitos editoriales y formular recomendaciones sobre la estructura y el contenido de los manuscritos.

Sin embargo, los revisores pares seguirán siendo el principal capital intelectual de las publicaciones científicas. Existe una deuda histórica con ellos: su dedicación, el anonimato de su trabajo y el hecho de que no sea remunerado contrasta con los costos que deben asumir los autores o los lectores para acceder a las revistas. Hace veinte años se promovía la profesionalización del trabajo editorial; hoy, se hace necesaria la creación de escuelas de formación para pares evaluadores y la dignificación de esta labor, que sostiene a las revistas y a la ciencia tal como entendemos su validación.


Articles from Colombia Médica : CM are provided here courtesy of Universidad del Valle

RESOURCES