El uso de IA en síntesis científica plantea avances y desafíos de precisión

Ciudad de México, 23-11-2024 |

Investigadores exploran el uso de IA en la creación de resúmenes científicos, impulsando el debate sobre su utilidad y riesgos

Lainteligencia artificial se perfila como una herramienta potencialmente revolucionaria en la síntesis de información científica, permitiendo a los investigadores acceder a resúmenes rápidos y precisos sobre temas complejos. Sam Rodriques, neurobiólogo y fundador de FutureHouse, anunció en septiembre de 2024 el desarrollo de un sistema de IA que genera resúmenes de información científica en cuestión de minutos, alcanzando una precisión comparable a la de artículos en Wikipedia. Este sistema ya creó descripciones para más de 17,000 genes humanos, muchos de los cuales carecían de información detallada en otras fuentes, lo que representa un avance en la accesibilidad del conocimiento científico.

Durante décadas, la síntesis automatizada de investigaciones fue un objetivo de los científicos, y el desarrollo de modelos de lenguaje como ChatGPTrenovó el interés en esta tecnología. Sin embargo, expertos en revisiones sistemáticas, como Paul Glasziou, advierten que estos sistemas aún presentan limitaciones importantes. Glasziou señala que la IA no puede realizar análisis de alta calidad de manera completamente autónoma, ya que estos procesos requieren criterios rigurosos y detallados para garantizar la precisión de los resultados.

A pesar de estas limitaciones, herramientas como Consensusy Elicitmostraron avances al facilitar la búsqueda y extracción de información en estudios científicos. Estas aplicaciones permiten a los usuarios encontrar estudios relevantes y acceder a datos específicos, aunque todavía no garantizan la precisión total, lo que plantea el riesgo de generar interpretaciones erróneas o sesgadas. James Thomas, del University College de Londres, advirtió que este tipo de IA podría comprometer los avances logrados en los métodos tradicionales de síntesis de evidencias si no se implementan de manera cuidadosa.

FutureHouse, respaldada por el exCEO de Google Eric Schmidt, lanzó recientemente PaperQA2, una herramienta de IA diseñada para analizar artículos académicos completos, ofreciendo respuestas detalladas basadas en literatura accesible. Este sistema realiza búsquedas exhaustivas y profundiza en los textos académicos, aunque su proceso es costoso y puede tardar varios minutos en generar resultados, a diferencia de los motores de búsqueda convencionales. En pruebas realizadas, un panel de biólogos evaluó la precisión de artículos generados por IA frente a entradas de Wikipedia, concluyendo que las versiones de IA presentaron menos errores de razonamiento.

El investigadorMushtaq Bilal, creador de la herramienta Research Kick, explica que la IA puede mejorar la eficiencia en la redacción de revisiones científicas, aunque la mayoría de los motores de búsqueda de ciencia asistidos por IA aún no pueden producir revisiones bibliográficas precisas sin supervisión humana.

En 2019, el equipo de Glasziou logró realizar una revisión sistemática en un tiempo récord de dos semanas gracias al uso de IA, un proceso que tradicionalmente puede durar meses o incluso años. Sin embargo, Justin Clark, miembro del equipo de Glasziou, destacó la importancia de asegurar la transparencia y reproducibilidad de estas herramientas antes de su implementación generalizada, dado que estos principios son clave para su validez en la investigación científica.

La creciente adopción de IA en la síntesis de información plantea un dilema en la comunidad científica: mientras estas herramientas pueden acelerar las revisiones y hacer el conocimiento más accesible, también podrían facilitar la proliferación de estudios de baja calidad. Glasziou concluye que el impacto de la IA en la literatura científica dependerá de si su aplicación es rigurosa y se usa con el debido control, o si se convierte en un recurso para generar contenido sin los estándares necesarios de precisión y fiabilidad.