OpenAI respalda proyectos de ley en el Congreso de EE. UU. sobre IA y amenazas de armas biológicas
OpenAI está respaldando una serie de proyectos de ley bipartidistas sobre datos biológicos: la Ley de la Red de Datos Biológicos, la Ley de Estándares de Datos Biológicos Preparados para la IA y la Ley de Biología a Escala. El objetivo: impedir que los modelos potencien el desarrollo de armas biológicas y virus sintéticos. Un tema importante para un comunicado de prensa del martes.
Y atención: también respaldan la parte de la Ley FRONTIER que obliga a los principales laboratorios a incorporar evaluadores de seguridad independientes. Según la información publicada por The Hill, es la primera vez que se adhieren a un mandato federal específico de este tipo.
Así que… la empresa que durante años dijo «confíen en nosotros» ahora le pide al Congreso que obligue a los ajenos a mirar por encima del hombro. El progreso y el teatro del lobby pueden ir de la mano.
En cualquier caso, el mensaje es claro: el riesgo biológico ya no es una nota a pie de página en un informe técnico.
La Fundación Gates afirma que invertirá mil millones de dólares para ampliar el acceso a la inteligencia artificial.
Mientras los laboratorios debaten sobre la necesidad de frenar, la Fundación Gates acaba de comprometerse a invertir al menos mil millones de dólares en dos años para impulsar la IA hacia las personas que normalmente reciben las sobras.
Distribución aproximada del lanzamiento de Goalkeepers: alrededor del 40 % en educación, el 40 % en sanidad, el 10 % en agricultura y el 10 % en idiomas e infraestructura digital. Piensa en tutores de matemáticas, herramientas para clínicas rurales, asistentes para suelos y cultivos, además de conjuntos de datos para que los modelos no se limiten al inglés para siempre.
La postura de Gates es tajante: sin intervención, el mercado crea IA para los más ricos. La filantropía puede parecer una solución superficial o un simple parche para un problema estructural. Aun así, mil millones no son una cantidad insignificante.
Además, se trata de un sistema de ultrasonido con inteligencia artificial para teléfonos móviles que busca ofrecer resultados de calidad hospitalaria. Sería impresionante si se comercializara a gran escala.
El nuevo modelo de razonamiento de Salesforce y Nvidia es todo lo que los laboratorios de IA deberían temer
Presentación en Dreamforce: Koa. El primer modelo de razonamiento CRM de Salesforce, entrenado posteriormente con el procesador de código abierto Nemotron de Nvidia, orientado a ventas, soporte y las complejas tareas empresariales de varios pasos para las que suelen utilizarse Claude y ChatGPT.
No se utilizan datos reales de clientes en el entrenamiento, sino perfiles sintéticos, incluyendo a "clientes furiosos", lo cual resulta demasiado obvio. Salesforce mantiene los pesos dentro de su límite de confianza. Su plataforma de CRM afirma reducir los errores con menos tokens. Tokenomics. El eslogan favorito de la industria.
Excepto que no van a abandonar Anthropic. ClaudeForce sigue existiendo. Así que sí, crea tu propio motor de razonamiento y sigue alquilando los laboratorios de vanguardia. Contradicción. Leve. Extremadamente Salesforce.
Los proyectos piloto ya están en marcha: Fórmula 1, hospitales, cooperativas de crédito. Los laboratorios de vanguardia quizás deberían preocuparse un poco.
Ahora Meta permite que los agentes de IA se encarguen de las partes tediosas de la configuración de WhatsApp Business
La iniciativa de Meta no es tanto un drama existencial, sino más bien un "por favor, dejen de obligar a los desarrolladores a hacer clic en doce consolas". La nueva herramienta MCP de WhatsApp Business permite a Claude, Cursor, Codex, ChatGPT (elige tu agente) configurar la mensajería empresarial mediante un chat.
Crea la cuenta. Verifica el número. Regístrate en la API de la nube. Crea plantillas. Monitorea los webhooks. Incluso te avisan cuando fallan los Términos de Servicio o el pago. El tedioso trabajo de conexión que nadie quiere hacer.
Es posible que ambas cosas sean ciertas: la incorporación de empleados a la empresa a través de chat y MCP en todas partes hasta que algo se rompa de una manera hilarante.
En cualquier caso, si de repente sientes que estás hablando con un becario un poco demasiado entusiasta al usar WhatsApp Business, ahora ya sabes por qué.
Huang, de Nvidia, discrepa con los directores ejecutivos de Anthropic y OpenAI sobre la seguridad de la IA en Dreamforce
Mismo escenario Moscone, registros opuestos. Amodei le dice a Benioff que el ritmo es la clave del liderazgo: dar ejemplo, ser mejor. Huang sube al escenario y califica la dicotomía velocidad versus seguridad como una «falsa elección». Fuerzas del mercado. No hacen falta nuevas leyes. Corre rápido… a menos que estés a punto de enviar algo inseguro; en ese caso, detente.
Altman más tarde: seguridad y supervisión antes que capacidades. "No debería haber ninguna salvedad al respecto". Así que los tres directores ejecutivos no están alineados. Quizás estén cerca.
El público pudo apreciar todo el espectro en un solo día de conferencias magistrales: sermones sobre la desaceleración, optimismo desmedido por el gigante de los chips y OpenAI haciendo hincapié en la responsabilidad sin ninguna escapatoria del tipo "a menos que los competidores hagan trampa".
Aún no se sabe qué argumento prevalecerá en la práctica. Estén atentos a los lanzamientos del próximo trimestre. Las palabras se las lleva el viento; las GPU, no.
El organismo español de control de datos publica el primer informe sobre una filtración de datos vinculada a un agente de IA
La AEPD española afirma haber recibido la primera notificación de una violación de datos personales presuntamente perpetrada por un agente de IA, que utilizó un conocido modelo LLM para encontrar vulnerabilidades, acceder a los sistemas, modificar datos personales y consultar facturas.
Intervención humana limitada en múltiples fases del ataque. Eso es lo escalofriante. No es ciencia ficción. Un incidente burocrático con autonomía incorporada.
La agencia se muestra cautelosa: no revela el nombre de la modelo ni de la víctima; afirma que la infraestructura del proveedor no se vio comprometida simplemente porque alguien condujera a un agente. El caso sigue bajo investigación. Sigue siendo inquietante.
Un solo caso no constituye una tendencia. Pero tampoco es algo teórico. Controladores, preparen sus cronómetros: los ataques ahora son más rápidos.
Preguntas frecuentes
¿Qué proyectos de ley sobre IA y armas biológicas apoya OpenAI en el Congreso?
OpenAI respaldó una serie de proyectos de ley bipartidistas sobre datos biológicos, incluyendo la Ley de la Red de Datos Biológicos, la Ley de Estándares de Datos Biológicos Preparados para la IA y la Ley de Biología a Escala. El objetivo es evitar que los modelos potencien el desarrollo de armas biológicas y virus sintéticos. OpenAI también apoya la disposición de la Ley FRONTIER que obliga a los principales laboratorios a incorporar evaluadores de seguridad independientes; según se informa, es la primera vez que se adhiere a un mandato federal específico de este tipo. El riesgo biológico ya no se considera una mera nota a pie de página en los informes técnicos.
¿Cómo está gastando la Fundación Gates mil millones de dólares en el acceso a la IA?
La Fundación Gates prometió al menos mil millones de dólares en dos años para ampliar el acceso a la IA a las personas que suelen recibir las sobras. El lanzamiento de Goalkeepers se divide aproximadamente en un 40 % para educación, un 40 % para atención médica, un 10 % para agricultura y un 10 % para idiomas e infraestructura digital, abarcando tutores de matemáticas, herramientas para clínicas rurales, asistentes para el suelo y los cultivos, y conjuntos de datos para que los modelos no se limiten al inglés. Gates argumenta que, sin intervención, el mercado desarrolla la IA primero para los más ricos. Un ejemplo ambicioso, si se implementa a gran escala, es la ecografía con IA basada en teléfonos móviles que busca ofrecer resultados de calidad hospitalaria.
¿Qué es el modelo de razonamiento Koa de Salesforce y Nvidia?
Koa es el primer modelo de razonamiento CRM de Salesforce, entrenado posteriormente con el modelo de ponderación abierta Nemotron de Nvidia y orientado a ventas, soporte y procesos empresariales complejos de múltiples pasos. El entrenamiento utilizó perfiles sintéticos, incluyendo clientes que llamaban enfadados, en lugar de datos reales de clientes, y Salesforce mantiene las ponderaciones dentro de su límite de confianza. Los bancos de pruebas CRM afirman que se producen menos errores con menos tokens. Salesforce no va a abandonar Anthropic: ClaudeForce se mantiene, por lo que está desarrollando su propio motor de razonamiento mientras sigue alquilando laboratorios de vanguardia, con proyectos piloto ya en la Fórmula 1, hospitales y cooperativas de crédito.
¿Cómo ayuda la plataforma MCP de WhatsApp Business de Meta a los agentes de IA?
La nueva plataforma MCP de Meta para WhatsApp Business permite a agentes como Claude, Cursor, Codex y ChatGPT configurar la mensajería empresarial mediante conversaciones informales. Los agentes pueden crear la cuenta, verificar el número, registrarse en la API en la nube, redactar plantillas, supervisar los webhooks y notificar cuando se producen fallos en los Términos de Servicio o en los pagos. El objetivo es reemplazar el tedioso trabajo de integración de múltiples consolas que nadie quiere realizar. La incorporación de clientes empresariales se asemeja más a una conversación con un becario entusiasta que a la gestión de doce pantallas de administración.
¿En qué se diferenció Huang, de Nvidia, de Anthropic y OpenAI en materia de seguridad de la IA?
En Dreamforce, Amodei le dijo a Benioff que el ritmo es clave para liderar: dar ejemplo y mejorar. Por su parte, Jensen Huang calificó la disyuntiva entre velocidad y seguridad como una falsa elección impulsada por las fuerzas del mercado, sin necesidad de nuevas leyes a menos que se vaya a lanzar un producto inseguro. Altman, por su parte, hizo hincapié en la seguridad y la monitorización antes que en las capacidades, sin ninguna salvedad. Los tres directores ejecutivos no estaban de acuerdo: en el mismo escenario se escucharon discursos sobre la desaceleración, optimismo por parte del gigante de los chips y la propuesta de responsabilidad de OpenAI. Lo que se lance el próximo trimestre importará más que las frases de los discursos principales.
¿Qué informó el organismo de control de datos español sobre la filtración de datos de un agente de IA?
La AEPD española publicó su primera notificación de una filtración de datos personales presuntamente perpetrada por un agente de IA que, mediante un modelo LLM conocido, buscaba vulnerabilidades, accedía a los sistemas, modificaba datos personales y consultaba facturas. Lo más inquietante es la escasa intervención humana en las distintas fases del ataque: un incidente administrativo con autonomía integrada. La agencia no reveló el nombre del modelo ni de la víctima y afirmó que la infraestructura del proveedor no se vio comprometida simplemente porque alguien controlara al agente. El caso sigue bajo investigación, pero ya no es solo una teoría.