Según fuentes, los asesores de Trump les han dicho a las empresas de IA que no realizarán pruebas de seguridad a los modelos de ponderación abierta ↗
Según fuentes cercanas a las conversaciones, la administración Trump comunicó a las principales empresas de IA que no sometería a pruebas de seguridad los modelos de ponderación abierta. Esto deja una parte crucial de la evaluación de riesgos fuera del control gubernamental.
En la práctica, es posible que desarrolladores y usuarios tengan que asumir una mayor responsabilidad en la evaluación de los modelos antes de su lanzamiento o implementación. Esto podría ser favorable a la innovación, pero el momento no es el más oportuno, ya que los modelos abiertos están adquiriendo cada vez más capacidades a un ritmo acelerado. (Reuters)
Los modelos de IA de ponderación abierta se están acercando a la vanguardia. Sin embargo, la brecha de seguridad persiste. ↗
Según se informa, el GLM-5.2 de Z.ai está a solo unos meses de los modelos cerrados líderes en capacidades cibernéticas y biológicas. Las pruebas de SaferAI revelaron que no rechazó ninguna de las tareas cibernéticas ofensivas ni las tareas biológicas de doble uso que se le presentaron.
Los modelos cerrados pueden basarse en el entrenamiento de rechazo, clasificadores y controles de API. Los pesos descargables son un caso aparte: una vez publicados, las medidas de seguridad pueden modificarse o eliminarse, lo que hace que la brecha de seguridad parezca tener forma de abismo. (TechCrunch)
Samsung Electronics lanza tecnología de memoria con IA de próxima generación ↗
Samsung presentó un prototipo de memoria BV-NAND con más de 400 capas y un nuevo diseño de unión de obleas. La compañía afirma que ofrece una densidad de memoria aproximadamente un 58 % mayor que la de su generación anterior, además de un rendimiento de lectura, escritura y entrada/salida más rápido.
Samsung también presentó una memoria zHBM apilada verticalmente, ubicada sobre los aceleradores de IA. Afirma que esta arquitectura podría ofrecer más de diez veces la densidad de la HBM5 convencional, el triple de eficiencia energética y una resistencia térmica sustancialmente menor; promesas ambiciosas, por decirlo suavemente. (Reuters)
La carrera por los centros de datos de IA genera una carga de arrendamiento de 1 billón de dólares para las grandes empresas tecnológicas ↗
Microsoft, Meta, Oracle, Amazon y Alphabet han comprometido alrededor de 1,09 billones de dólares en arrendamientos que aún no han comenzado, principalmente para centros de datos de IA. Estas obligaciones representan casi cuatro veces sus pasivos por arrendamiento reconocidos.
Esta capacidad podría impulsar el próximo auge de la computación en la nube. O, en un escenario menos alentador, podría obligar a las empresas a pagar por infraestructuras inmensas si la demanda de IA no cumple con las expectativas: un abrigo de un billón de dólares comprado antes de que nadie consultara el pronóstico del tiempo. (Reuters)
Anthropic firma un acuerdo de 10.000 millones de dólares con la startup de nube de IA Volta ↗
Según se informa, Anthropic acordó comprar 10.000 millones de dólares en capacidad de computación a la empresa emergente de computación en la nube con inteligencia artificial Volta durante un período de seis años. El acuerdo respaldaría un centro de datos noruego con una capacidad de 133 megavatios.
Se espera que la empresa de minería de criptomonedas Bitdeer ayude a desarrollar la instalación, que utilizará los sistemas Vera Rubin de Nvidia. Anthropic está acumulando alianzas de computación como si fueran imanes de nevera, solo que estos imanes cuestan miles de millones. (TechCrunch)
La IA ofrece un "salvavidas" para las economías emergentes, según el Banco Mundial ↗
El Banco Mundial afirma que la IA podría permitir a las economías en desarrollo condensar un siglo de progreso en una década, siempre que mejoren la electricidad, la conectividad y las competencias digitales. Herramientas más pequeñas y adaptadas localmente podrían respaldar la sanidad, la educación, la agricultura y los servicios públicos sin necesidad de gigantescos modelos nacionales.
Según su informe, el 4,5% de los empleos en países de ingresos bajos y medios están expuestos a la IA generativa, frente al 14,2% en las economías más ricas. Aun así, la promesa viene acompañada de advertencias contundentes sobre la desigualdad, la desinformación y la represión política: una tabla de salvación con varios nudos. (Reuters)
Preguntas frecuentes
¿Por qué el gobierno de Estados Unidos no realiza pruebas de seguridad a los modelos de IA de peso abierto?
Según el artículo, la administración Trump comunicó a las principales empresas de IA que los modelos de peso abierto no se incluirían en su marco de pruebas de seguridad gubernamentales. Esto traslada mayor responsabilidad a los desarrolladores, distribuidores y usuarios de modelos, quienes podrían necesitar evaluar de forma independiente los riesgos cibernéticos, biológicos, de uso indebido y de implementación antes de lanzar o adoptar estos sistemas.
¿Por qué es más difícil proteger los modelos de IA de ponderación abierta que los modelos cerrados?
Los modelos de IA de código abierto se pueden descargar, modificar y operar fuera de la infraestructura del desarrollador original. En consecuencia, las medidas de seguridad, como el entrenamiento de rechazo, los clasificadores y los controles de acceso, pueden debilitarse o eliminarse. Los modelos de código cerrado suelen distribuirse mediante API controladas, lo que permite a los proveedores un mayor margen para supervisar el uso, restringir el acceso y actualizar las protecciones tras la implementación.
¿Cómo deberían las organizaciones evaluar los modelos de IA de ponderación abierta antes de su implementación?
Un enfoque común consiste en probar el modelo frente a escenarios de uso indebido realistas, incluyendo tareas cibernéticas ofensivas, solicitudes biológicas de doble uso e intentos de eludir las medidas de seguridad. Las organizaciones también deben analizar cómo se alojará el modelo, quién podrá modificarlo y qué sistemas de monitorización estarán disponibles. Las implementaciones de mayor riesgo suelen requerir controles de acceso más estrictos y una supervisión humana constante.
¿Qué mejora pretende solucionar la nueva tecnología de memoria con IA de Samsung?
El prototipo BV-NAND de Samsung utiliza más de 400 capas y un diseño de unión de obleas para aumentar la densidad de memoria y, al mismo tiempo, mejorar el rendimiento de lectura, escritura y entrada/salida. La compañía también describió una memoria zHBM apilada verticalmente, ubicada sobre aceleradores de IA. Estos diseños buscan satisfacer las demandas de capacidad, energía y calor generadas por las cargas de trabajo de IA cada vez más intensivas.
¿Por qué se considera un riesgo financiero el arrendamiento de centros de datos de IA por parte de las grandes tecnológicas?
Según informes, Microsoft, Meta, Oracle, Amazon y Alphabet han comprometido alrededor de 1,09 billones de dólares en arrendamientos que aún no han comenzado, gran parte de ellos vinculados a centros de datos de IA. Esta capacidad adicional podría respaldar el rápido crecimiento de la demanda de computación en la nube e inteligencia artificial. Sin embargo, las empresas aún podrían tener que realizar pagos sustanciales si la demanda se desarrolla más lentamente de lo esperado o si la infraestructura permanece infrautilizada.
¿Cómo podría la IA beneficiar a las economías emergentes?
El Banco Mundial sostiene que la IA podría ayudar a las economías en desarrollo a fortalecer la sanidad, la educación, la agricultura y los servicios públicos, especialmente mediante herramientas adaptadas a las necesidades locales. Estos beneficios dependen de un suministro eléctrico fiable, acceso a internet y competencias digitales. Los gobiernos también deben gestionar riesgos como la desigualdad, la desinformación y la represión política a medida que se generaliza su adopción.