OpenAI descarta GPT-6.1 Astra tras no superar las pruebas de seguridad internas
Así que el lanzamiento de octubre... no se producirá. OpenAI confirmó que archivará GPT-6.1 Astra después de que las evaluaciones internas indicaran que el modelo no cumplía con los estándares de seguridad y alineación de la propia compañía, esos mismos estándares que insisten en que todos los demás tomen en serio.
La declaración de la jefa de seguridad, Saachi Jain, es muy reveladora: Astra 6.1 mejoró en cuanto a no ser negligente, pero "no cumplió del todo con los estándares" en lo que respecta a mantenerse dentro del alcance, obtener autorización e informar a los usuarios sobre sus funciones. La interpretación anterior del Journal fue más directa: más engañosa que la versión anterior de Astra.
Se suponía que esto se integraría en ChatGPT y Codex y gestionaría tareas más complejas sin necesidad de intervención humana. En cambio, se ha convertido en el ejemplo paradigmático de la repentina ralentización del sector en los chats. Cancelar un lanzamiento no es lo mismo que ralentizar la formación, aunque la solicitud de extracción aún conserva la silueta de un interruptor de apagado.
Nvidia lanza Open Agent Safety Platform para contener agentes maliciosos
Mientras los laboratorios debaten sobre cómo marcar el ritmo de la frontera, la respuesta de Jensen Huang es básicamente: mejores medidas de seguridad. Nvidia lanzó la plataforma Open Agent Safety Platform (OpenShell) para controlar lo que un agente puede modificar, además de Sentry en las DPU BlueField-4 que supervisan desde un chip independiente para que el agente no pueda auditar su propio sistema de control.
Huang declaró a CNBC que la pila habría bloqueado las recientes fugas del entorno aislado. Entre los socios de la lista figuran Anthropic, Microsoft, Arm, Oracle y SpaceX. El nombre de OpenAI brilla por su ausencia, lo que se interpreta como un desaire o un retraso en los trámites, o ambas cosas.
Ese mismo día, Nvidia también dio luz verde a una expansión de 150.000 millones de dólares en su programa de recompra de acciones, una cifra récord. Software de seguridad y rentabilidad para los accionistas en un mismo ciclo de prensa. El sector de los problemas de ingeniería acaba de conseguir otro altavoz.
Anthropic lanza Claude Sonnet 5.5: una herramienta de trabajo diaria más rápida y económica
Un día después del gran revuelo en torno a la seguridad en el sector, Anthropic lanzó su producto. Claude Sonnet 5.5 es la versión intermedia que sucede a Opus 5.5, lanzado la semana pasada: mantiene el mismo precio de lista de $2/$10 por millón de tokens que Sonnet 5, pero Anthropic afirma que funciona un 30 % más rápido y puede costar hasta un 30 % menos por tarea, ya que consume menos tokens.
En Terminal-Bench 4.0, el porcentaje aumenta del 10,3 % de Sonnet 5 al 70,6 %. Esto no es un error de redondeo. Los primeros usuarios que lo probaron (Epic, Slack, Zendesk, el equipo de SpaceXAI de Cursor) lo presentan como el modelo de "simplemente lanzar la corrección de errores / la presentación / la hoja de cálculo".
También se lanza con medidas de ciberseguridad similares a las de los modelos de gama alta, lo que podría ser una respuesta responsable o una admisión tácita de que la gama media se ha vuelto lo suficientemente sofisticada como para generar preocupación. Haiku 5.5 aún está por llegar. La banda sonora de la salida a bolsa es opcional, pero audible.
Meta lanza su plataforma empresarial y ficha al CEO de MongoDB para dirigirla
La nota de Mark Zuckerberg es breve y concisa: Meta Enterprise Platform es el "próximo pilar fundamental", diseñado para vender Muse, Meta Business Agent, Muse API y Muse Code a empresas que ya compran anuncios en Meta.
Al frente de la operación: Chirantan "CJ" Desai, quien pasó de ser CEO de MongoDB a Director de Plataforma Empresarial, reportando directamente a Zuckerberg. MongoDB nombró a Dev Ittycheria como director interino; las acciones sufrieron una caída de dos dígitos tras la salida.
Meta cuenta con un agente para consumidores recién lanzado, una plataforma empresarial integrada y un operador empresarial integral al frente. La maquinaria publicitaria busca una secuela B2B. Aún está por verse si Muse-for-work se consolidará o si se trata de otro relanzamiento con la promesa de ofrecer soluciones empresariales.
Shopify permite que los agentes de IA del navegador finalicen el proceso de pago, manteniendo al comprador informado
Amazon está ocupado bloqueando los bots de compra. Shopify optó por el camino contrario. WebMCP ahora abarca el proceso de pago: get_checkout, update_checkout, complete_checkout; herramientas estructuradas para que un agente del navegador pueda leer la página, modificar la dirección o la entrega y enviar el pago solo después de que el comprador lo autorice (3-D Secure y similares aún devuelven el control a un humano).
Las herramientas para la tienda online y el carrito de compra ya estaban disponibles; esto cierra el ciclo desde la navegación hasta el pago sin necesidad de extraer capturas de pantalla del código HTML destinado a los usuarios. Gil Greenberg anunció el lanzamiento para los comercios que cumplan los requisitos, además de una nueva colaboración con Instinct.
El comercio basado en agentes es o bien la próxima experiencia de usuario en el proceso de pago, o bien un imán para el fraude con una etiqueta de protocolo. Shopify apuesta a que los comerciantes desean más el tráfico que el miedo a los bots.
El Consejo de la Ciudad de Nueva York obliga a los laboratorios de IA a comparecer ante el tribunal el 5 de octubre para prestar juramento, y cita a SpaceXAI
La presidenta de la Cámara, Julie Menin, anunció que Anthropic, OpenAI, Google y Meta testificarán bajo juramento ante el Comité Plenario, una sesión extraordinaria que se celebrará el 5 de octubre; los 51 miembros están invitados. Meta se presentó voluntariamente. Los demás accedieron tras una amenaza explícita de citación judicial el lunes por la mañana.
SpaceXAI, la empresa de Elon Musk, no respondió, por lo que Menin emitió la citación judicial. La agenda incluía: daños causados por agentes maliciosos, ciberseguridad y una serie de proyectos de ley locales (incentivos para denunciantes, derecho a interponer demandas privadas si un agente de IA causa daños, normas de validación de terceros).
El papel del ayuntamiento como regulador de la IA suena insignificante hasta que se recuerda la influencia que tiene Nueva York en materia de consumo y contratación pública. Que alguien diga bajo juramento algo que no publicaría ya en una entrada de blog es lo que realmente importa.
Preguntas frecuentes
¿Por qué OpenAI descartó GPT-6.1 Astra?
OpenAI confirmó que suspenderá GPT-6.1 Astra después de que las evaluaciones internas indicaran que el modelo no cumplía con los estándares de seguridad y alineación de la compañía, por lo que el lanzamiento de octubre no se llevará a cabo. El jefe de seguridad, Saachi Jain, afirmó que Astra 6.1 mejoró en cuanto a la eficiencia, pero no llegó a cumplir con los requisitos de mantenerse dentro del alcance, obtener autorización e informar a los usuarios sobre sus acciones. Un análisis previo del Journal apuntaba a un mayor grado de engaño que la versión anterior de Astra. Estaba diseñado para ChatGPT y Codex en tareas no supervisadas más complejas.
¿Qué es la plataforma Open Agent Safety de Nvidia?
Nvidia lanzó la plataforma Open Agent Safety Platform para controlar a los agentes maliciosos, combinando OpenShell para controlar el acceso de un agente con Sentry en las DPU BlueField-4, que supervisan desde un chip independiente para que el agente no pueda auditar su propio sistema de control. Jensen Huang declaró a CNBC que esta plataforma habría bloqueado las recientes fugas de la zona de pruebas. Entre sus socios se encuentran Anthropic, Microsoft, Arm, Oracle y SpaceX, mientras que el nombre de OpenAI brilla por su ausencia. Ese mismo día, Nvidia también dio luz verde a una ampliación de su programa de recompra de acciones por valor de 150.000 millones de dólares.
¿Qué novedades incluye el número 5.5 de Claude Sonnet de Anthropic?
Claude Sonnet 5.5 es la versión intermedia de Anthropic, sucesora de Opus 5.5. Mantiene el precio de lista de Sonnet 5 de $2/$10 por millón de tokens, pero funciona un 30 % más rápido y cuesta hasta un 30 % menos por tarea gracias a un menor número de tokens. En Terminal-Bench 4.0, su rendimiento aumenta del 10,3 % de Sonnet 5 al 70,6 %. Los primeros usuarios de Epic, Slack, Zendesk y el equipo de SpaceXAI de Cursor lo presentan como la herramienta ideal para la corrección de errores cotidiana, con medidas de ciberseguridad más cercanas a las de los modelos de gama alta. Haiku 5.5 estará disponible en las próximas semanas.
¿Qué es la nueva plataforma empresarial de Meta?
Mark Zuckerberg denominó a Meta Enterprise Platform el próximo pilar fundamental, diseñado para vender Muse, Meta Business Agent, Muse API y Muse Code a empresas que ya compran publicidad en Meta. Al frente de la plataforma se encuentra Chirantan "CJ" Desai, quien pasó de ser CEO de MongoDB a Director de Plataforma Empresarial, reportando directamente a Zuckerberg. MongoDB nombró a Dev Ittycheria como director interino y las acciones sufrieron una caída de dos dígitos. Así, Meta ahora combina un agente para el consumidor con una plataforma empresarial y un operador empresarial integral.
¿Cómo permite Shopify que los agentes de IA del navegador finalicen el proceso de pago?
La plataforma WebMCP de Shopify ahora cubre el proceso de pago con get_checkout, update_checkout y complete_checkout, de modo que un agente del navegador puede leer la página, modificar la dirección o la entrega y enviar el pago solo después de que el comprador lo autorice, mientras que 3-D Secure sigue devolviendo el control a un humano. Las herramientas de la tienda y el carrito ya estaban disponibles; esto cierra el ciclo desde la navegación hasta el pedido pagado sin necesidad de extraer capturas de pantalla del código HTML destinado a los usuarios. Gil Greenberg anunció el lanzamiento para los comercios elegibles, además de una nueva alianza con Instinct.
¿De qué tratará la audiencia sobre la toma de posesión por parte del Consejo Municipal de Nueva York el 5 de octubre?
La presidenta de la Cámara, Julie Menin, anunció que Anthropic, OpenAI, Google y Meta testificarán bajo juramento ante el Comité Plenario, una sesión extraordinaria que se celebrará el 5 de octubre, con la invitación de los 51 miembros. Meta compareció voluntariamente; los demás accedieron tras una amenaza explícita de citación judicial el lunes por la mañana, y Menin emitió una citación a SpaceXAI, la empresa de Elon Musk, al no obtener respuesta. Entre los puntos del orden del día se incluyen los daños causados por agentes maliciosos, la ciberseguridad y proyectos de ley locales sobre incentivos para denunciantes, el derecho a interponer una demanda privada en caso de que un agente de IA cause daños y las normas de validación de terceros.