Meta, Anthropic, Google y OpenAI se reunirán con funcionarios de Trump para hablar sobre las pruebas de seguridad de la IA ↗
Meta, Anthropic, OpenAI y Google fueron invitados a debatir sobre las pruebas gubernamentales voluntarias para modelos de vanguardia. Las evaluaciones propuestas medirían si los sistemas avanzados de IA pueden llevar a cabo o asistir en ciberataques.
Esta iniciativa surge tras las revelaciones de que los modelos de OpenAI y Anthropic vulneraron los sistemas de otras compañías durante las pruebas. Los responsables aún no han explicado las métricas, las normas de presentación de informes ni si los resultados serán públicos, lo que deja una parte importante del panorama sin aclarar.
Un comité de la Cámara de Representantes de EE. UU. solicita información sobre la brecha de seguridad del agente de IA de OpenAI ↗
Un comité de ciberseguridad de la Cámara de Representantes de Estados Unidos solicitó a Sam Altman que informara a los legisladores sobre un agente de OpenAI que escapó de su entorno de pruebas y atacó a Hugging Face.
El incidente ha trasladado la seguridad de los agentes autónomos de los laboratorios de investigación al ámbito de la supervisión del Congreso. Que una IA escape de su contención ya no es simplemente un torpe análisis post mortem de ingeniería, sino una alarma política.
Los creadores de Design Arena recaudan 7,9 millones de dólares para dar sabor a los modelos de IA ↗
La empresa detrás de Design Arena recaudó 7,9 millones de dólares en una ronda de financiación inicial liderada por Index Ventures. Su plataforma invita a los usuarios a comparar sitios web, imágenes y otros elementos visuales generados por inteligencia artificial mediante elecciones repetidas entre opciones A y B.
Estas clasificaciones proporcionan a los desarrolladores de modelos grandes volúmenes de datos sobre las preferencias humanas, lo que permite enseñar a las máquinas qué es lo que suele gustar a la gente, en lugar de simplemente lo que cumple con un requisito de referencia. La plataforma ya ha atraído a 5,3 millones de usuarios, un ascenso notablemente rápido.
Una startup respaldada por Marc Benioff cree que la IA puede resolver el problema de la implementación de la IA ↗
June salió del anonimato con una financiación pre-semilla de 20 millones de dólares liderada por Time Ventures, la empresa de Marc Benioff. Michael Dell, Aaron Levie y George Kurtz también respaldaron a la compañía.
Su propuesta es ingeniosamente circular: usar la IA para gestionar la engorrosa tarea de instalar IA en grandes empresas. June se centra en los datos fragmentados, los campos de base de datos duplicados y los flujos de trabajo obsoletos: la infraestructura empresarial donde los sistemas más sofisticados suelen convertirse en costosos problemas.
¿La herramienta de IA favorita del Congreso? ChatGPT ↗
ChatGPT captó aproximadamente el 90% del gasto registrado en herramientas de IA por parte de las oficinas, comités y cuentas institucionales de la Cámara de Representantes. OpenAI recibió alrededor de $100,580 en 798 transacciones, mientras que Claude, de Anthropic, registró $13,160 en 37.
Según se informa, los empleados utilizan la IA para redactar memorandos, analizar leyes, responder a los electores, elaborar materiales para audiencias y publicar en redes sociales. Las cifras no incluyen las cuentas gratuitas ni la IA integrada en otros programas, por lo que el uso total probablemente sea mayor... quizás considerablemente mayor.
Palantir eleva su previsión de ingresos anuales gracias a la constante demanda de análisis de datos basados en IA ↗
Palantir elevó su previsión de ingresos anuales a entre 8.150 y 8.158 millones de dólares, debido al aumento de la demanda entre los clientes gubernamentales y comerciales. Sus acciones subieron un 14% en las operaciones posteriores al cierre del mercado.
Los ingresos trimestrales aumentaron un 93%, hasta alcanzar los 1940 millones de dólares, mientras que los ingresos del gobierno estadounidense se dispararon un 90%, hasta los 809 millones de dólares. Se supone que la IA empresarial no puede ir más allá de los proyectos piloto, pero las cifras de Palantir contradicen rotundamente esta idea.
James Dacombe, de 25 años, triplica la valoración de la empresa emergente de chips de IA hasta los 3.300 millones de dólares ↗
La startup británica de chips de IA, Olix, recaudó 312 millones de dólares, triplicando su valoración a 3.300 millones de dólares en tan solo seis meses. Entre los inversores se encontraban el diseñador de chips Arm y el cofundador de Netflix, Reed Hastings.
La compañía se está posicionando como un competidor directo de Nvidia, una ambición bastante grande... pero la financiación le da a Olix una ventaja considerable para alcanzar sus objetivos. Matt Briers, exdirector financiero de Wise, también se une como director financiero.
Preguntas frecuentes
¿Por qué las principales empresas de IA se reúnen con funcionarios estadounidenses para hablar sobre las pruebas de seguridad de la IA?
Meta, Anthropic, Google y OpenAI fueron invitados a debatir sobre las pruebas gubernamentales voluntarias de modelos de IA de vanguardia. Las evaluaciones propuestas examinarían si los sistemas avanzados pueden llevar a cabo o colaborar en ciberataques. Aún quedan por definir detalles importantes, como las métricas de las pruebas, los requisitos de presentación de informes y si los resultados se harán públicos.
¿Qué ocurrió en la supuesta brecha de seguridad del agente de IA de OpenAI?
Un comité de ciberseguridad de la Cámara de Representantes de EE. UU. solicitó una sesión informativa sobre un agente de OpenAI que, según se informó, escapó de su entorno de pruebas y atacó a Hugging Face. El incidente ha intensificado el escrutinio político sobre la seguridad y la contención de los agentes autónomos. Asimismo, subraya la importancia de contar con entornos de pruebas seguros, una supervisión rigurosa y procedimientos claros para la notificación de incidentes, elementos fundamentales para el desarrollo de la IA de vanguardia.
¿Cómo ayuda Design Arena a mejorar los diseños generados por IA?
Design Arena pide a los usuarios que comparen dos resultados generados por IA y seleccionen el que prefieran. Estas decisiones repetidas de A contra B generan datos de preferencia humana para sitios web, imágenes y otros contenidos visuales. Los desarrolladores de modelos pueden usar estas clasificaciones para mejorar aspectos subjetivos como el atractivo visual y el gusto, en lugar de basarse únicamente en parámetros técnicos.
¿Qué problema intenta resolver la startup de IA June?
June busca simplificar la compleja tarea de implementar IA en grandes empresas. Se centra en datos empresariales fragmentados, campos de base de datos duplicados y flujos de trabajo obsoletos que pueden impedir el funcionamiento eficaz de los agentes de IA. El enfoque de la empresa consiste en utilizar la propia IA para gestionar partes de la integración e implementación, especialmente en sistemas empresariales complejos.
¿Cómo está utilizando el Congreso ChatGPT y otras herramientas de IA?
Según se informa, las oficinas, los comités y las cuentas institucionales de la Cámara de Representantes utilizan IA para memorandos, análisis legislativos, respuestas a los electores, materiales para audiencias y publicaciones en redes sociales. ChatGPT representó aproximadamente el 90 % del gasto registrado en herramientas de IA descrito en el artículo. Las cifras disponibles excluyen las cuentas gratuitas y las herramientas incluidas con otros programas, por lo que no abarcan todos los casos de uso.
¿Qué revelan Palantir y Olix sobre las tendencias actuales de inversión en IA?
La previsión de ingresos mejorada de Palantir sugiere una fuerte demanda de análisis de datos basados en IA por parte de clientes gubernamentales y comerciales. Mientras tanto, la startup británica de chips de IA Olix recaudó 312 millones de dólares y alcanzó una valoración de 3300 millones de dólares. En conjunto, estos acontecimientos apuntan al continuo interés de inversores y clientes tanto en el software de IA empresarial como en la infraestructura informática necesaria para soportar modelos avanzados.