🏛️ Cómo las grandes tecnológicas se salieron con la suya en la orden ejecutiva de Trump sobre IA ↗
Trump dio marcha atrás en una orden ejecutiva sobre inteligencia artificial que habría impulsado revisiones de seguridad para los nuevos modelos. La razón, en esencia: no frenar a Estados Unidos en la carrera con China.
Lo más destacable es que, según se informa, la orden ya era bastante leve: voluntaria, no una medida regulatoria drástica. Aun así, los líderes tecnológicos se opusieron firmemente y consiguieron lo que querían. (The Guardian)
🛡️ Claude Mythos AI encuentra 10.000 vulnerabilidades de alta gravedad en software de uso generalizado ↗
Anthropic afirmó que su proyecto Glasswing detectó más de 10 000 vulnerabilidades de alta o crítica gravedad utilizando Claude Mythos Preview. Es impresionante, pero también da la sensación de ser una alarma de incendios disfrazada.
La compañía afirma que se han confirmado 1726 fallos, de los cuales 97 se han corregido y se han emitido 88 avisos de seguridad. Lo difícil ahora no es encontrar errores, sino corregirlos antes de que los atacantes consigan las mismas herramientas. (The Hacker News)
🛰️ La Casa Blanca aprueba 9.000 millones de dólares para que las agencias de espionaje se pongan al día en inteligencia artificial ↗
La Casa Blanca aprobó una solicitud secreta de 9.000 millones de dólares para comprar chips avanzados para las agencias de inteligencia estadounidenses, destinados a ejecutar modelos de IA de vanguardia para trabajos clasificados.
El Congreso aún debe aprobar la financiación adicional, pero se están reasignando 800 millones de dólares para un acceso computacional más rápido. El mensaje implícito es evidente: incluso las agencias de espionaje están ahora atascadas en la cola de chips de IA, lo cual es a la vez absurdo y predecible. (Inquirer.com)
🪞 «No se puede controlar todo»: el aumento de cirujanos plásticos a los que se les pide que creen «rostros con IA» ↗
Los cirujanos plásticos afirman que cada vez más pacientes traen selfies editadas con inteligencia artificial como referencia para sus cirugías: pómulos más definidos, simetría perfecta, piel sin poros, en fin, toda una lista de deseos inverosímiles.
Los cirujanos advierten que la IA puede reorganizar píxeles, no la anatomía. Un estudio analizó procedimientos recomendados por IA que podrían superar las 100.000 libras esterlinas y aun así no lograr el rostro ideal. Un laberinto de espejos bastante sombrío. (The Guardian)
💰 Anthropic está a punto de cerrar una ronda de financiación de más de 30.000 millones de dólares la próxima semana ↗
Según se informa, Anthropic está cerca de una ronda de financiación superior a los 30.000 millones de dólares, con una valoración que supera los 900.000 millones de dólares. Sí, esa cifra está dando vueltas como la espuma.
Esta ronda de financiación se debe a la enorme demanda de Claude en áreas como la programación, los flujos de trabajo empresariales y la ciberseguridad. La empresa también se apresura a asegurar más capacidad de procesamiento, ya que en el ámbito de la IA, el dinero se traduce principalmente en combustible disfrazado de traje. (Business Standard)
🖼️ Las imágenes de ChatGPT contienen marcadores de IA invisibles que cualquiera puede detectar: lo que los usuarios que no pueden revelar la IA de generación deben saber ↗
Las imágenes generadas por OpenAI ahora incluyen dos señales de procedencia: metadatos C2PA y la marca de agua SynthID de Google DeepMind. Una proporciona un contexto de archivo más completo, mientras que la otra está diseñada para conservarse tras capturas de pantalla y compresión.
También hay una herramienta de verificación pública en fase de prueba. No es infalible, claro está (los investigadores han demostrado ataques con marcas de agua), pero hace que decir "No usé IA" sea una mentira mucho más arriesgada. (Tech Times)
Preguntas frecuentes
¿Por qué Trump dio marcha atrás en la orden ejecutiva prevista sobre inteligencia artificial?
Según el artículo, la orden ejecutiva prevista sobre IA se suavizó tras la presión ejercida por los líderes de las grandes empresas tecnológicas. La orden ya se había descrito como relativamente moderada y voluntaria, centrada en las revisiones de seguridad de los nuevos modelos de IA. El principal argumento en contra era que la ampliación de los procesos de revisión podría ralentizar la carrera de Estados Unidos con China en materia de IA.
¿Qué descubrió Claude Mythos, de Anthropic, en el software?
Anthropic afirmó que su proyecto Glasswing utilizó Claude Mythos Preview para identificar más de 10 000 vulnerabilidades de alta o crítica gravedad en software de uso generalizado. El artículo señala que 1726 hallazgos se confirmaron como verdaderos positivos, y que ya se han emitido parches y avisos. La principal preocupación radica en si los responsables de la seguridad podrán corregir estas debilidades antes de que los atacantes exploten herramientas de IA similares.
¿Por qué las agencias de espionaje estadounidenses están pidiendo más chips de IA?
El artículo indica que la Casa Blanca aprobó una solicitud secreta de 9 mil millones de dólares para ayudar a las agencias de inteligencia estadounidenses a adquirir chips avanzados para modelos de IA de vanguardia. El objetivo es respaldar el trabajo clasificado de IA que requiere una gran capacidad de procesamiento. También señala que el Congreso aún debe aprobar una financiación más amplia, mientras que parte del dinero se está reasignando para un acceso más rápido.
¿Qué significa “rostro con IA” en cirugía estética?
El término «rostro con IA» se refiere a las selfies editadas con inteligencia artificial que los pacientes llevan a los cirujanos plásticos como ejemplos de cómo desean verse. Estas imágenes pueden mostrar rasgos más definidos, una simetría perfecta o una piel poco realista. Los cirujanos citados en el artículo advierten que la IA puede modificar los píxeles con facilidad, pero la anatomía real tiene limitaciones que la cirugía no siempre puede superar.
¿Cómo afectan a los usuarios los marcadores invisibles en las imágenes de ChatGPT?
El artículo indica que las imágenes generadas por ChatGPT ahora incluyen señales de procedencia, como metadatos C2PA y marcas de agua SynthID. Estos marcadores pueden ayudar a identificar imágenes generadas por IA, incluso en casos donde alguien no desee revelar el uso de IA. El artículo también señala que las marcas de agua no son infalibles, pero facilitan la detección del uso no declarado de imágenes generadas por IA.