En un campo donde la autorregulación ha sido prácticamente la única regulación existente, Demis Hassabis acaba de proponer algo que pocos esperaban de un CEO de un laboratorio líder: un organismo independiente con poder real para testear y aprobar —o rechazar— el lanzamiento de modelos de IA de frontera. Su inspiración no viene de la industria tech sino del sistema financiero: FINRA, la Autoridad Reguladora de la Industria Financiera de Estados Unidos.
¿Qué propone exactamente Hassabis?
En un post en X titulado «Un marco para la IA de Frontera y el Amanecer de una Nueva Era», el CEO de Google DeepMind esbozó las líneas de un «organismo de estándares» que funcionaría como un regulador independiente para los modelos de IA más avanzados. El sistema funcionaría, según su propuesta, en dos fases.
En la primera fase, los laboratorios de IA compartirían sus modelos voluntariamente con el organismo hasta 30 días antes de lanzarlos públicamente. El regulador los evaluaría en busca de riesgos de seguridad, vulnerabilidades y problemas potenciales. Una vez que ese proceso demostrara ser efectivo y robusto, vendría la formalización: los modelos de frontera necesitarían aprobar esa evaluación para poder ser desplegados en el mercado estadounidense.
El modelo FINRA: autorregulación con dientes
La referencia a FINRA no es casual. FINRA es una organización independiente sin fines de lucro que regula a los brokers y firmas de inversión en Estados Unidos. No es exactamente una agencia gubernamental, pero tampoco es solo una asociación voluntaria: tiene poder de enforcement, puede imponer multas y suspender licencias. Funciona con fondos aportados por la propia industria que regula, y sus decisiones tienen peso legal real.
Aplicar ese modelo a la IA tiene varias ventajas estratégicas. Por un lado, esquiva la resistencia política de crear una agencia gubernamental: el asesor de IA de la Casa Blanca, Sriram Krishnan, dijo recientemente que «no habrá una FDA para la IA». Un organismo de autorregulación financiado por la industria puede avanzar sin necesitar aprobación legislativa. Por otro lado, al ser independiente del gobierno, podría atraer talento técnico de alto nivel —algo que las agencias estatales luchan por hacer— y moverse a la velocidad del sector.
El contexto: la regulación ad hoc que no funciona
La propuesta de Hassabis emerge de un contexto específico: los reviews ad hoc que el gobierno de Estados Unidos hizo sobre los modelos Mythos de Anthropic y Sol de OpenAI. Esas revisiones fueron criticadas duramente por su falta de expertise técnico, sus procesos opacos y la arbitrariedad percibida en las decisiones. En ausencia de un marco claro, la regulación de IA de frontera ha sido esencialmente improvisada, con consecuencias legales y comerciales significativas para los laboratorios involucrados.
Un organismo como el que propone Hassabis aportaría transparencia y predictibilidad: los laboratorios sabrían con anticipación qué tests deben pasar, qué estándares se aplican y qué remedios existen si un modelo presenta vulnerabilidades post-lanzamiento. Eso, paradójicamente, podría acelerar la innovación al reducir la incertidumbre regulatoria.
Las críticas previsibles y los riesgos reales
Ninguna propuesta de regulación está libre de críticas, y esta no será la excepción. El primer riesgo obvio es la «captura regulatoria»: si el organismo es financiado por la industria que regula y sus evaluadores provienen de esa misma industria, existe el peligro de que las reglas terminen siendo diseñadas para proteger a los incumbentes en lugar de al público. FINRA no ha estado exenta de esas críticas en el sector financiero.
El segundo riesgo es la velocidad: los ciclos de desarrollo de IA son de meses, no años. Un proceso de revisión de 30 días puede parecer razonable hoy, pero si la aceleración continúa y los ciclos de lanzamiento se comprimen, ese período podría convertirse en un freno significativo para la innovación.
Tercero, la jurisdicción: un organismo regulatorio estadounidense no tendría poder sobre laboratorios de IA en China o Europa. En un ecosistema global donde modelos open-source de empresas chinas se descargan libremente en Hugging Face, la regulación de los laboratorios americanos podría tener un efecto asimétrico que desventaje a la industria doméstica sin resolver los riesgos que pretende mitigar.
Por qué esta propuesta importa más allá de la política
Más allá del debate regulatorio, la propuesta de Hassabis tiene implicancias prácticas para cualquier empresa que use IA en su operación. Un marco de estándares claro significaría que los modelos que superan el proceso de evaluación han sido verificados por expertos independientes. Eso cambia el cálculo de riesgo para empresas que hoy dudan en adoptar IA de frontera por temor a comportamientos inesperados o vulnerabilidades de seguridad.
En industrias reguladas —salud, finanzas, educación, gobierno— la existencia de un sello de aprobación independiente podría abrir la puerta a adopción de IA donde hoy hay bloqueos de compliance. Para los developers y las empresas que construyen sobre modelos de IA, la regulación puede parecer un obstáculo, pero la predictibilidad y la confianza que genera son, en el largo plazo, habilitadoras de mercado.
¿Tu empresa necesita adoptar IA con el máximo de seguridad y compliance?
En Octopus Agencia implementamos soluciones de inteligencia artificial para empresas privadas y organismos públicos con foco en seguridad, trazabilidad y cumplimiento de normas. Trabajamos con sistemas RAG, chatbots empresariales y automatizaciones que respetan los requisitos de privacidad y control de datos de cada sector.
