Google, OpenAI y Anthropic están trabajando en la creación de un nuevo organismo para establecer estándares comunes de seguridad para los modelos de inteligencia artificial más avanzados.
Según adelantó The Information, el nombre provisional es Standards Authority for Frontier AI (SAFA) y podría ponerse en marcha a finales de 2026 o principios de 2027. Por ahora, sigue siendo un proyecto en preparación y no una organización oficialmente constituida.
La pregunta de fondo es sencilla: ¿cómo sabemos que un modelo es suficientemente seguro antes de que llegue a millones de personas?
Y, sobre todo, ¿quién debería comprobarlo?
Qué haría SAFA
La idea es crear una organización de autorregulación que ayude a definir reglas comunes para los grandes laboratorios de IA.
Entre sus objetivos estarían:
- establecer compromisos de seguridad compartidos;
- impulsar evaluaciones externas de modelos;
- definir criterios comunes para comprobar sus capacidades y riesgos antes de desplegarlos.
La propuesta recuerda al modelo de FINRA, el organismo que supervisa a intermediarios financieros en Estados Unidos.
En julio, Demis Hassabis, CEO de Google DeepMind, propuso precisamente crear un organismo independiente inspirado en ese sistema. Su planteamiento incluía que los laboratorios pudieran compartir voluntariamente sus modelos hasta 30 días antes de su lanzamiento para someterlos a evaluación.
¿Cómo se evalúa hoy un modelo de IA?
Antes de lanzar un modelo avanzado, las empresas realizan pruebas para medir tanto lo que puede hacer como lo que puede salir mal.
Se analizan capacidades relacionadas con programación, ciberseguridad, autonomía o conocimientos sensibles, y también se realizan ejercicios de red teaming para intentar que el sistema se comporte de formas no previstas.
El problema es que buena parte de estas evaluaciones siguen dependiendo de las propias empresas que desarrollan los modelos.
De ahí el interés creciente por introducir evaluadores independientes y metodologías comunes.
OpenAI y Anthropic llegaron incluso a negociar recientemente un acuerdo para someter los modelos de cada compañía a pruebas de estrés realizadas por la otra.
La duda: ¿puede la industria supervisarse a sí misma?
Aquí aparece la parte más interesante.
Google, OpenAI y Anthropic serían algunas de las empresas sometidas a esos estándares, pero también están participando en la creación del organismo encargado de definirlos.
Esto no significa necesariamente que el modelo sea inválido.
La industria ya cuenta con iniciativas como el Frontier Model Forum, formado actualmente por Amazon, Anthropic, Google, Meta, Microsoft y OpenAI, que trabaja en investigación de seguridad, estándares y evaluaciones de modelos de frontera.
Pero SAFA iría un paso más allá al intentar establecer mecanismos de evaluación comunes y más formales.
Eso plantea otra pregunta: ¿quién supervisa a quien supervisa?
Un sistema creado únicamente por los grandes laboratorios podría mejorar la seguridad, pero también existe el riesgo de que unos requisitos costosos terminen siendo más fáciles de cumplir para las empresas que ya cuentan con mayores recursos.
De modelos más potentes a modelos más supervisados
La discusión llega en un momento en el que los sistemas de IA están dejando de limitarse a generar respuestas.
Cada vez pueden utilizar herramientas, navegar, ejecutar código o actuar durante más tiempo de manera autónoma.
Y cuando la IA pasa de responder a actuar, una evaluación incorrecta puede tener consecuencias más allá de la pantalla.
Por eso, para empresas y profesionales, la pregunta ya no debería ser únicamente:
“¿Qué modelo es más potente?”
También conviene preguntar:
“¿Cómo ha sido evaluado, quién lo ha probado y qué mecanismos existen si algo sale mal?”
SAFA todavía está en fase de preparación.
Pero el hecho de que Google, OpenAI y Anthropic estén intentando construir una estructura específica para evaluar la seguridad de los modelos muestra cómo está cambiando la carrera de la IA.
La siguiente competición puede no ser solo por construir el modelo más capaz.
También por demostrar quién puede garantizar que ese modelo es suficientemente seguro.