LifeSciBench: cómo evaluar si la IA puede ayudar en investigación científica real

LifeSciBench: cómo evaluar si la IA puede ayudar en investigación científica real

Brain Code |

La inteligencia artificial agentic está avanzando hacia tareas cada vez más complejas. En ciencias de la vida, sin embargo, la pregunta relevante no es solo si un modelo sabe responder preguntas de biología, sino si puede contribuir de forma útil al trabajo real de investigación.

Ese trabajo rara vez se parece a una prueba limpia, cerrada y con una única respuesta evidente. Los investigadores tienen que interpretar evidencia incompleta, reconciliar resultados contradictorios, diseñar experimentos complejos, detectar limitaciones, valorar riesgos traslacionales y tomar decisiones bajo incertidumbre.

LifeSciBench nace precisamente para medir esa capacidad: evaluar si los sistemas de IA pueden apoyar tareas realistas de investigación en ciencias de la vida, con el nivel de razonamiento, cautela, detalle y utilidad que esperaría un científico experto.

Por qué los benchmarks actuales no son suficientes

Muchas evaluaciones en ciencias de la vida se han centrado en dominios concretos o habilidades aisladas. Suelen plantear preguntas estructuradas, con formatos muy delimitados y respuestas de referencia claras.

Ese enfoque puede ser útil, pero no captura del todo la complejidad de la investigación aplicada. En un entorno real, un modelo no solo tiene que recuperar información correcta. También debe:

  • Interpretar evidencia científica.
  • Trabajar con datos incompletos o difíciles.
  • Razonar en varios pasos.
  • Identificar limitaciones relevantes.
  • Formular conclusiones útiles para la toma de decisiones.
  • Comunicar resultados con el nivel adecuado de detalle y cautela.

LifeSciBench busca cerrar esa brecha entre las pruebas convencionales y el trabajo científico real.

Qué mide LifeSciBench

LifeSciBench mide si los sistemas de IA pueden apoyar tareas realistas de investigación en ciencias de la vida, no solo responder preguntas teóricas de biología.

Para definir su taxonomía, se encuestó a científicos en activo sobre los flujos de trabajo que utilizan con más frecuencia en investigación aplicada. A partir de esas respuestas, las tareas se agruparon en siete categorías:

  • Manejo de evidencia
  • Análisis
  • Diseño, optimización y predicción
  • Razonamiento científico
  • Validación y operaciones
  • Traslación
  • Comunicación científica

Cada tarea se plantea como una petición que un científico podría hacer a un colaborador experto. Incluye un prompt científico, el contexto o los artefactos necesarios y una respuesta libre. Después, se evalúa mediante rúbricas escritas por expertos.

La clave está en que no se mide solo si el modelo “acierta”, sino si responde con el nivel de justificación, matices, cautelas y formato que tendría sentido en una situación de investigación real.

Un benchmark construido con científicos expertos

LifeSciBench incluye 750 tareas creadas por expertos, repartidas en siete flujos de trabajo y siete dominios biológicos.

El benchmark se apoya en:

  • 173 científicos colaboradores
  • 1.062 artefactos asociados a las tareas
  • 19.020 criterios de rúbrica
  • 453 revisores expertos

Las tareas fueron creadas por científicos con formación doctoral y experiencia en biotecnología o industria farmacéutica. Además, pasaron por ciclos de revisión antes de ser aceptadas.

El objetivo era asegurar que cada tarea fuera científicamente sólida, evaluable y representativa de problemas reales de investigación aplicada.

La importancia de los artefactos y el razonamiento en varios pasos

Una parte relevante de LifeSciBench es que no se limita al texto del prompt.

El benchmark incluye figuras, PDFs, tablas, archivos de secuencias, estructuras, archivos químicos y referencias web. Más de la mitad de las tareas requieren interpretar o sintetizar información procedente de al menos un artefacto.

Esto es importante porque la investigación científica no se basa únicamente en lenguaje natural. Muchas decisiones dependen de datos, gráficos, documentos técnicos, resultados experimentales o archivos especializados.

Además, el 79% de las tareas requiere varios pasos de razonamiento o toma de decisiones. De media, cada tarea implica cuatro pasos.

Esta estructura permite evaluar algo más cercano al trabajo real: no solo producir una respuesta, sino construir una conclusión científicamente útil a partir de información diversa.

Cómo se evalúan las respuestas

LifeSciBench utiliza rúbricas detalladas y específicas para cada tarea. En conjunto, el benchmark incluye 19.020 criterios, con una media de 25 criterios por tarea.

Estas rúbricas descomponen la respuesta esperada en elementos concretos:

  • Afirmaciones científicas
  • Cálculos
  • Decisiones
  • Justificaciones
  • Matices
  • Limitaciones
  • Elementos de formato o comunicación

Este enfoque refleja mejor cómo se evalúa el trabajo científico. En muchas tareas, no basta con comprobar una respuesta final. Un modelo puede llegar a una conclusión general correcta y, aun así, ser incompleto si omite una limitación crítica o no menciona una consecuencia biológica relevante.

También puede ocurrir lo contrario: una respuesta parcial puede contener razonamiento valioso aunque no resuelva toda la tarea.

Por eso LifeSciBench evalúa tanto la corrección científica como la utilidad operativa de la respuesta.

Dónde muestran más fortaleza los modelos de IA

Los resultados muestran que los modelos frontera empiezan a ser más fuertes en tareas de síntesis científica, comunicación e interpretación estructurada.

En el benchmark, GPT-Rosalind mejora el rendimiento respecto a GPT-5.5. La tasa de aprobado exacta pasa del 25,7% al 36,1%.

Las mejoras más destacadas aparecen en dos áreas:

  • Comunicación científica
  • Traslación

En comunicación científica, la tasa de aprobado sube del 56,3% en GPT-5.5 al 71,1% en GPT-Rosalind. El propio texto advierte que esta categoría es pequeña, por lo que el resultado debe interpretarse con cautela.

En traslación, entendida como el proceso que conecta la investigación preclínica con implicaciones clínicas, la tasa pasa del 36,8% al 57,7%.

También se observan avances en tareas que requieren producir salidas útiles para expertos y manejar incertidumbre o cautelas.

La lectura principal es prudente pero relevante: los modelos empiezan a mejorar cuando la tarea tiene límites claros de evidencia y exige juicio científico estructurado.

Dónde siguen fallando los sistemas de IA

LifeSciBench también muestra límites importantes.

Los modelos tienen más dificultades en tareas con muchos artefactos, tareas de diseño, tareas de optimización y situaciones con restricciones operativas. En Design, Optimization & Prediction, GPT-Rosalind alcanza una tasa de aprobado del 30,7%. En Analysis, llega al 30,3%.

El uso de artefactos aparece como una brecha especialmente clara. En GPT-Rosalind, la tasa de aprobado cae del 45,1% en tareas solo de texto al 28,1% en tareas con artefactos o URLs.

El texto señala dificultades concretas al extraer información de figuras complejas o grandes archivos de secuencia e integrarla en una respuesta final.

También hay problemas cuando la salida debe ser exacta. Las tareas numéricas, de secuencia, estructura o generación de constructos presentan tasas de aprobado más bajas. Esto importa porque muchos flujos de trabajo científicos requieren resultados precisos y directamente utilizables.

Respuestas parcialmente útiles, pero no suficientes

Uno de los hallazgos más interesantes es que los modelos pueden avanzar bastante sin llegar a resolver del todo una tarea.

En torno al 14% de las tareas, los modelos obtienen crédito sustancial en la rúbrica aunque no superen el umbral exacto de aprobado. En GPT-Rosalind, 109 tareas tienen tasas de aprobado por debajo del 20%, pero aun así alcanzan al menos el 50% de recompensa en la rúbrica.

Esto refleja una situación muy relevante para el uso profesional de IA: un modelo puede identificar evidencia útil, producir una respuesta plausible o razonar parcialmente bien, pero fallar por omitir una restricción clave, usar evidencia incorrecta, hacer un cálculo incompleto o no conectar el razonamiento con una decisión científicamente útil.

Para investigación científica, esa diferencia importa. Una respuesta parcialmente buena no siempre es una respuesta suficientemente fiable.

Qué significa LifeSciBench para el uso real de IA en ciencia

LifeSciBench no pretende sustituir los estudios de despliegue en entornos reales. El propio texto subraya que el benchmark mide capacidades en tareas autocontenidas inspiradas en flujos recurrentes de la industria, pero no captura toda la diversidad ni la dinámica de los programas reales de investigación.

La investigación real es iterativa. Los científicos reúnen nueva evidencia, revisan hipótesis, diseñan experimentos de seguimiento y adaptan sus planes a medida que aparecen resultados.

Por eso, un buen rendimiento en LifeSciBench debe interpretarse como evidencia de capacidad realista a nivel de tarea, no como una medida directa del impacto en investigación o desarrollo.

El siguiente paso será conectar el rendimiento en benchmarks con estudios de despliegue en flujos reales de investigación, durante horizontes más largos y con múltiples rondas de razonamiento, feedback y seguimiento experimental.

Una señal clara: evaluar IA exige acercarse al trabajo real

LifeSciBench apunta a una evolución importante en la forma de evaluar sistemas de IA.

La pregunta ya no es únicamente si un modelo puede responder bien a una pregunta científica. La pregunta es si puede actuar como apoyo útil en tareas complejas, con evidencia incompleta, criterios expertos, artefactos especializados y necesidad de juicio profesional.

En ciencias de la vida, esto implica medir no solo conocimiento, sino razonamiento, manejo de incertidumbre, comunicación, precisión y utilidad operativa.

Esa es la diferencia entre una IA que responde y una IA que realmente puede contribuir a un proceso experto.

Fuente

OpenAI, “LifeSciBench”, OpenAI, fecha no indicada en el texto original.

Leave a comment