🇬🇧 Una apuesta audaz por la IA mantendrá al Reino Unido a la vanguardia de los avances científicos y de investigación, desde la atención sanitaria hasta mejores servicios públicos ↗
El principal financiador de la investigación pública del Reino Unido (UKRI) publicó su primera estrategia dedicada a la IA, que en esencia aboga por más IA en la investigación, más habilidades en IA, más infraestructura de IA: todo el conjunto.
Se destinan importantes fondos a la IA, además de inversiones específicas como la modernización del superordenador DAWN de Cambridge y el apoyo a la labor de "IA para la Ciencia" (se menciona el descubrimiento de fármacos, como era de esperar). Se lee como "hacer lo fundamental, pero también generar resultados"... lo cual es una idea, o una cuerda floja, o ambas cosas.
🛡️ OpenAI y Microsoft se unen a la coalición internacional del Reino Unido para salvaguardar el desarrollo de la IA ↗
OpenAI y Microsoft prometieron nuevos fondos para el Proyecto de Alineación del Instituto de Seguridad de IA del Reino Unido: el fondo para la investigación de alineación independiente aumentó y lo están enmarcando como una forma de generar confianza, no solo como una crítica entre nerds.
La clave aquí es la estructura: una coalición internacional, múltiples financiadores y un conjunto de subvenciones que se distribuyen en varios países. Se trata de "alineación como ecosistema", no de "alineación como la fórmula secreta de un laboratorio"... aunque los laboratorios aún tengan la mayor parte de la fórmula.
🧠 Impulsando la investigación independiente sobre la alineación de la IA ↗
OpenAI comprometió 7,5 millones de dólares al Proyecto de Alineación AISI del Reino Unido: dinero destinado específicamente a equipos independientes que realizan trabajos de seguridad y alineación fuera de los laboratorios de frontera.
El discurso es bastante contundente: los laboratorios de vanguardia pueden realizar una alineación basada en el acceso a modelos, pero el campo también necesita ideas idiosincrásicas, diversas y no correlacionadas de personas externas (sus palabras son más amables, pero se entiende). También hay una clara visión de "despliegue iterativo" subyacente: lanzar, aprender, consolidar... repetir... o eso parece.
💳 El Tesoro publica dos nuevos recursos para orientar el uso de la IA en el sector financiero ↗
El Tesoro de Estados Unidos lanzó dos herramientas prácticas para las finanzas: un léxico de IA compartido (para que todos dejen de discutir sobre el significado de las palabras) y un marco de gestión de riesgos de IA de servicios financieros que adapta el enfoque del NIST a las realidades de la banca.
El marco se basa en una gobernanza basada en riesgos con suficiente detalle para que los equipos de cumplimiento, los reguladores y los proveedores puedan utilizarla sin que cada uno invente sus propias definiciones en paralelo. Es el tipo de documento prosaico que, discretamente, define lo que se aprueba, lo cual resulta eficaz, como si fuera un archivador.
🪖 El director técnico del Pentágono afirma que "no es democrático" que Anthropic limite el uso militar de la IA de Claude ↗
Un líder tecnológico del Pentágono rechazó públicamente la decisión de Anthropic de restringir los usos militares de Claude, calificando de “no democrático” que una sola empresa establezca reglas adicionales más allá de la ley y la regulación.
Esto se suma a una disputa más amplia entre varias empresas de modelos fronterizos y contratos de defensa para adaptar genAI a contextos militares. El punto de fricción es precisamente el esperado: las políticas de uso de la empresa frente al interés del gobierno por el uso operativo. Todo parece un apretón de manos que se convierte en un pulso a mitad de la foto.
Preguntas frecuentes
¿Cuál es la estrategia de IA de UKRI y por qué es importante?
La primera estrategia dedicada a la IA de UKRI aboga por una mayor integración de la IA en el proceso de investigación: habilidades, infraestructura y aplicación práctica. El enfoque es "hacer lo fundamental, pero también generar resultados", lo que indica la presión para convertir la inversión en investigación en beneficios para el público. También apunta a un enfoque integral: no solo los modelos de financiación, sino también las vías de computación, personal y adopción que garantizan la perdurabilidad del progreso.
¿Qué permite realmente la actualización de la supercomputadora DAWN de Cambridge?
La modernización del superordenador DAWN de Cambridge se posiciona como una mejora de infraestructura que respalda un trabajo de IA más ambicioso en la investigación del Reino Unido. En la práctica, esto suele significar mayor capacidad para entrenamiento, evaluación y experimentos a gran escala que las instalaciones más pequeñas tienen dificultades para ejecutar eficientemente. En muchos procesos, una computación compartida más robusta facilita los cuellos de botella universitarios y acelera el ciclo desde los prototipos hasta los resultados publicables y comprobables.
¿Qué significa “IA para la ciencia” en el contexto de la estrategia de IA del Reino Unido?
La "IA para la Ciencia" se presenta como el uso de métodos de IA para acelerar el descubrimiento, mencionando explícitamente el descubrimiento de fármacos. En la práctica, esto suele incluir el uso de IA para generar hipótesis, explorar amplios espacios de diseño o priorizar experimentos. Este énfasis sugiere un interés por resultados que trasciendan el ámbito académico: nuevos métodos, ciclos más cortos y aplicaciones que conecten con la atención médica y los servicios públicos.
¿Qué es el Proyecto de Alineación del Instituto de Seguridad de IA del Reino Unido y quién lo financia?
El Proyecto de Alineación del Instituto de Seguridad de IA del Reino Unido se describe como una coalición internacional que apoya la investigación independiente sobre alineación, con la contribución de múltiples financiadores. Se destaca la aportación de nueva financiación por parte de OpenAI y Microsoft, enmarcada en el fomento de la confianza y el apoyo al ecosistema. El modelo es "alineación como ecosistema", con subvenciones que se destinan a equipos de distintos países en lugar de concentrar el trabajo en laboratorios de vanguardia.
¿Por qué OpenAI invirtió 7,5 millones de dólares en una investigación independiente sobre la alineación de la IA?
La lógica declarada de OpenAI es que los laboratorios de vanguardia pueden realizar tareas de seguridad que dependen del acceso profundo a los modelos, mientras que los equipos independientes pueden aportar ideas diversas y no correlacionadas que los laboratorios podrían pasar por alto. El énfasis está en ampliar el campo más allá de la "ingrediente secreta de un solo laboratorio". El documento también sugiere una visión de "implementación iterativa": implementar, aprender de la retroalimentación de la implementación, fortalecer los sistemas y luego repetir.
¿Cómo afectan los recursos de IA del Tesoro de EE. UU. a la gobernanza de la IA del sector financiero?
El Departamento del Tesoro de EE. UU. publicó un léxico compartido de IA y un marco de gestión de riesgos de IA para servicios financieros adaptado del enfoque del NIST. El objetivo es reducir la proliferación de definiciones y brindar a los equipos de cumplimiento, reguladores y proveedores una guía común. En muchas organizaciones, documentos como estos determinan lo que se aprueba en la práctica, ya que estandarizan las expectativas de control, documentación y toma de decisiones basada en riesgos.