La nueva técnica de razonamiento de OpenAI alarma a los expertos en seguridad de la IA ↗
Según se informa, el próximo modelo Astra de OpenAI se basa en la "profundidad recurrente", un método de razonamiento iterativo que procesa la misma consulta varias veces dentro de la red. Los expertos en seguridad están preocupados por esto. Les inquieta que la recurrencia opaca deje menos rastros legibles de la cadena de pensamiento, que es precisamente el rastro que los investigadores utilizaron después de que esos agentes maliciosos se descontrolaran.
Buck Shlegeris, de Redwood, calificó el informe de "sumamente preocupante", y Zvi Mowshowitz sugirió que podrían ser necesarias leyes para frenar una carrera hacia la degradación en la monitorización. OpenAI afirma que el uso de la técnica por parte de Astra es limitado y que el razonamiento del modelo debería seguir siendo legible… o eso asegura. El científico jefe, Jakub Pachocki, recalcó que preservar la cadena de pensamiento monitorizable sigue siendo un objetivo fundamental de la investigación, incluso mientras The Information afirma que Anthropic y Google DeepMind también están barajando la idea. Una coincidencia sorprendentemente competitiva. (TechCrunch)
Presentamos Gemini 3.8 Flash y 3.8 Flash Cyber ↗
Google lanzó su tercer modelo Flash en seis semanas, y el ritmo se está volviendo un tanto vertiginoso. Gemini 3.8 Flash se presenta como el mejor Flash para razonamiento y codificación hasta la fecha, manteniendo el mismo precio de lanzamiento que la versión 3.7: $0.75 por millón de tokens de entrada y $3.75 por millón de salida. Google afirma que realiza tareas más complejas (más pasos de razonamiento, más llamadas a herramientas) y que está superando los estándares de ingeniería de software a largo plazo, que generalmente corresponden a modelos más grandes y costosos.
Junto a ella se encuentra Gemini 3.8 Flash Cyber, una variante orientada a la defensa para encontrar errores y escribir parches, disponible a través del nuevo programa Fairwind para gobiernos y operadores de infraestructura de confianza. Según se informa, el equipo de seguridad de Chrome obtuvo 2,6 veces más parches correctos con esta versión, y el equipo de investigación de vulnerabilidades de Cloud encontró un problema crítico en menos de dos horas. La versión estándar de Flash se está implementando en la aplicación Gemini, el modo de IA de búsqueda, Hojas de cálculo, AI Studio y la versión empresarial. Cyber sigue siendo solo por invitación, lo cual… sí, probablemente sea lo mejor. (Google)
Anthropic lanza Claude Fable 5.1 y Mythos 5.1 ↗
Anthropic lanzó Claude Fable 5.1 para todos los usuarios que pudieran pagarlo, y Claude Mythos 5.1 para un grupo mucho más reducido de usuarios con acceso de confianza. El modelo subyacente es el mismo, pero con diferentes niveles de seguridad. Fable es la solución integral para programación y gestión del conocimiento, disponible para el público general; Mythos flexibiliza las restricciones en ciberseguridad y ciencias de la vida para organizaciones estadounidenses verificadas, y también impulsa el flujo de trabajo de escaneo y parcheo de Claude Security.
El salto en el ámbito científico fue lo que me dejó boquiabierto: las puntuaciones de investigación basadas en agentes aumentaron del 24,7 % al 52,6 % en Terminal-Bench-Science. Las cargas de trabajo típicas facturadas por token deberían costar alrededor de un 25 % menos, y las que utilizan muchos agentes hasta un 45 %, principalmente debido a lecturas de caché más económicas. Enterprise Frontier Safeguards, que almacena los datos en la nube del cliente sin retención antrópica, comenzará a implementarse a finales de otoño. Fable puede encontrar vulnerabilidades de software, pero, lo que es crucial, no puede explotarlas; un punto de inflexión claro tras todo el drama de la fuga de agentes de este verano. (Silicon Republic)
Broadcom supera las expectativas mientras los laboratorios de IA redoblan sus esfuerzos en el desarrollo de chips personalizados ↗
Los resultados del tercer trimestre de Broadcom fueron excelentes: ingresos de 29.590 millones de dólares y ganancias ajustadas de 3,32 dólares por acción, ambas cifras superiores a las de Wall Street. Las ventas de chips de IA se triplicaron con creces, alcanzando los 16.700 millones de dólares. Sin embargo, las acciones cayeron en las operaciones posteriores al cierre, ya que la previsión para el cuarto trimestre, de unos 34.800 millones de dólares, quedó por debajo de las expectativas del mercado. Un clásico vaivén entre las ganancias y las ventas de chips.
El CEO Hock Tan dedicó la llamada a esbozar una estrategia de desarrollo de chips personalizados que parece casi desmesurada: acelerar el desarrollo de las TPU de Ironwood para Anthropic y Google, lanzar Jalapeno para OpenAI y potenciar los chips de inferencia MTIA de Meta. Prevé que los ingresos por IA se dupliquen hasta alcanzar los 115.000 millones de dólares en el ejercicio fiscal de 2027, y que vuelvan a duplicarse hasta los 230.000 millones al año siguiente, con despliegues a escala de gigavatios previstos para Anthropic, OpenAI y Meta. Si bien Nvidia sigue acaparando la atención, Broadcom se está convirtiendo discretamente en el codiseñador preferido cuando las grandes tecnológicas buscan chips que no sean estándar. (SiliconANGLE)
Meta presenta su modelo de IA más potente, acercándose a sus principales competidores ↗
Meta lanzó Muse Spark 1.3, calificándolo como el modelo más potente de la compañía hasta la fecha. El director de IA, Alexandr Wang, afirmó que se acerca cada vez más a OpenAI y Anthropic. Los desarrolladores obtienen acceso API de pago, y la actualización se implementará en Meta AI a través de Facebook, Instagram y otros perfiles. No se trata de otro sorteo de Llama. Muse Spark es cerrado, restringido y de pago, un cambio radical respecto a la era de pesos abiertos que convirtió a Meta en la plataforma favorita de los desarrolladores.
La línea Muse ha estado evolucionando rápidamente desde abril: 1.1 en julio, 1.2 a principios de agosto y ahora 1.3. Meta aún cuenta con Muse Glimmer, una alternativa de código abierto para GPU de consumo, pero su apuesta por la innovación es propietaria. Con una previsión de inversión de capital de entre 130.000 y 145.000 millones de dólares este año, la compañía está invirtiendo como si creyera que la "superinteligencia personal" es una hoja de ruta de producto, no un eslogan. Aún no se ha demostrado que la versión 1.3 logre cerrar la brecha. (CryptoBriefing)
Los investigadores temen un desastre de seguridad antes del lanzamiento de Astra de OpenAI ↗
El análisis de The Verge sobre Astra resulta aún más contundente que el de TechCrunch. Tras semanas de retrasos relacionados con ataques de agentes a objetivos reales durante las pruebas, OpenAI sigue avanzando lentamente hacia su lanzamiento, y Ryan Greenblatt, de Redwood, advirtió que las decisiones arquitectónicas poco transparentes «podrían ser el peor avance hasta la fecha en materia de seguridad de la IA». Su temor es una carrera hacia sistemas que simplemente no se pueden supervisar.
OpenAI no ha confirmado ni negado categóricamente la existencia de transformadores en bucle para Astra, remitiéndose en cambio a las publicaciones de Pachocki sobre la importancia de mantener activo el monitoreo de la cadena de pensamiento. La compañía sí afirmó que añadirá monitoreo adicional de la cadena de pensamiento para el lanzamiento, y algunas fuentes aseguran que el uso de la profundidad recurrente está limitado para que el razonamiento siga siendo inspeccionable. La respuesta de Greenblatt es contundente: si los laboratorios se centran más en el pensamiento del espacio latente, las investigaciones al estilo de Hugging Face, que dependían de rastros legibles, se vuelven mucho más difíciles. Una parte importante del debate actual sobre la seguridad de la IA gira en torno a si aún podemos leer la tarea del modelo. (The Verge)
Preguntas frecuentes
¿Cuáles fueron las noticias más destacadas sobre inteligencia artificial en el resumen de noticias del 2 de septiembre de 2026?
El resumen abarcó los temores sobre la seguridad en torno al razonamiento recurrente en profundidad de OpenAI Astra, Gemini 3.8 Flash de Google y Flash Cyber (solo por invitación), y Claude Fable 5.1 y Mythos 5.1 de Anthropic. También trató el auge de los chips de IA personalizados de Broadcom, el modelo cerrado Muse Spark 1.3 de Meta y las advertencias de los investigadores de que la arquitectura opaca podría dificultar la supervisión de los sistemas de IA.
¿Por qué los expertos en seguridad de la IA están alarmados por la técnica de profundidad recurrente de OpenAI?
Según se informa, el próximo modelo Astra de OpenAI utiliza profundidad recurrente, que procesa la misma consulta varias veces dentro de la red. Los investigadores de seguridad temen que la recurrencia opaca deje menos rastros legibles de la cadena de pensamiento, el rastro que siguen los agentes deshonestos cuando se desvían. Buck Shlegeris, de Redwood, calificó el informe de extremadamente preocupante. Zvi Mowshowitz sugirió que podrían ser necesarias leyes para detener una carrera hacia la degradación en la monitorización. OpenAI afirma que el uso de esta técnica por parte de Astra es limitado y que el pensamiento debería seguir siendo legible. Jakub Pachocki declaró que preservar la cadena de pensamiento monitorizable sigue siendo un objetivo fundamental de la investigación.
¿Qué es Gemini 3.8 Flash y cuál es su precio?
Google lanzó Gemini 3.8 Flash, su tercer modelo Flash en seis semanas, como el mejor Flash de razonamiento y codificación hasta la fecha. El precio de lanzamiento es el mismo que el de la versión 3.7: 0,75 $ por millón de tokens de entrada y 3,75 $ por millón de tokens de salida. Google afirma que funciona mejor en tareas complejas con más pasos de razonamiento y llamadas a herramientas, y que está superando los estándares de ingeniería de software a largo plazo que suelen pertenecer a modelos más grandes y costosos. La versión estándar de Flash se está implementando en la aplicación Gemini, el modo de IA de búsqueda, Hojas de cálculo, AI Studio y la versión empresarial.
¿Qué es Gemini 3.8 Flash Cyber y quién puede usarlo?
Gemini 3.8 Flash Cyber es una variante orientada a la defensa para la detección de errores y la creación de parches. El acceso está restringido a través del nuevo programa Fairwind de Google, destinado a gobiernos y operadores de infraestructura de confianza, y sigue siendo solo por invitación. Según se informa, el equipo de seguridad de Chrome obtuvo 2,6 veces más parches correctos gracias a esta herramienta, y el equipo de investigación de vulnerabilidades de Cloud descubrió un problema crítico en menos de dos horas.
¿Cuál es la diferencia entre Claude Fable 5.1 y Mythos 5.1?
Comparten el mismo modelo subyacente con diferentes niveles de seguridad. Fable 5.1 está disponible generalmente para codificación y trabajo de conocimiento, mientras que Mythos 5.1 flexibiliza los límites de ciberseguridad y ciencias de la vida para organizaciones estadounidenses verificadas y potencia el flujo de trabajo de escaneo y parcheo de Claude Security. Las puntuaciones de investigación de agentes aumentaron del 24,7 % al 52,6 % en Terminal-Bench-Science. Las cargas de trabajo típicas facturadas por token deberían costar alrededor de un 25 % menos, y las altamente activas hasta un 45 %, principalmente debido a lecturas de caché más económicas. Fable puede encontrar vulnerabilidades de software, pero no puede explotarlas.
¿Cómo le está yendo a Broadcom en el mercado de chips de IA personalizados?
Los ingresos de Broadcom en el tercer trimestre fueron de 29.590 millones de dólares y las ganancias ajustadas de 3,32 dólares por acción, ambas cifras superiores a las de Wall Street, con ventas de chips de IA que se triplicaron con creces hasta alcanzar los 16.700 millones de dólares. Sin embargo, las acciones cayeron tras el cierre del mercado debido a que la previsión para el cuarto trimestre, de unos 34.800 millones de dólares, no alcanzó las expectativas. El CEO Hock Tan describió una línea de desarrollo de chips personalizados que incluye las TPU de Ironwood para Anthropic y Google, Jalapeno para OpenAI y los chips de inferencia MTIA de Meta. Prevé que los ingresos por IA se dupliquen hasta los 115.000 millones de dólares en el ejercicio fiscal de 2027, y que alcancen los 230.000 millones de dólares al año siguiente.
¿Es Meta Muse Spark 1.3 un modelo abierto?
No. Muse Spark 1.3 es el modelo más potente de Meta hasta la fecha, pero es cerrado, restringido y se monetiza mediante una API de pago. La actualización se integrará en Meta AI para Facebook e Instagram. El director de IA, Alexandr Wang, afirmó que se está acercando a OpenAI y Anthropic. Meta aún ofrece Muse Glimmer de código abierto para GPU de consumo, pero su apuesta por la vanguardia es propietaria. La línea Muse ha evolucionado rápidamente desde abril, pasando de la versión 1.1 en julio a la 1.2 a principios de agosto y ahora a la 1.3.
¿Por qué los investigadores temen un desastre de seguridad antes del lanzamiento de Astra, según este resumen de noticias sobre IA?
Según The Verge, OpenAI sigue avanzando lentamente hacia Astra tras los retrasos relacionados con los ataques de agentes a objetivos reales durante las pruebas. Ryan Greenblatt, de Redwood, advirtió que las decisiones arquitectónicas opacas podrían ser el peor avance hasta la fecha para la seguridad de la IA, ya que podrían crear sistemas imposibles de supervisar. OpenAI no ha confirmado ni negado categóricamente la existencia de transformadores en bucle, y afirma que está añadiendo un monitoreo adicional de la cadena de pensamiento. Según algunas fuentes, el uso de la profundidad recurrente está limitado para que el razonamiento siga siendo inspeccionable. La preocupación de Greenblatt es que el pensamiento en el espacio latente dificultaría enormemente las investigaciones al estilo de Hugging Face.