Entran en vigor las normas europeas de transparencia en materia de IA ↗
Las empresas que prestan servicios a usuarios europeos ahora deben informar cuándo los clientes interactúan con la IA. Los deepfakes y el contenido sintético realista también requieren etiquetas claras, mientras que los medios generados deben incluir marcadores legibles por máquina.
Algunos de los requisitos más estrictos para situaciones de alto riesgo se pospusieron, pero las normas de transparencia cotidianas no. Así que sí, la era de presentar discretamente un chatbot como "Sarah del servicio de soporte" está llegando a su fin... o eso parece. (TechRadar)
Sam Altman reabre el debate sobre la ralentización de la IA ↗
Sam Altman sugirió que la industria tal vez deba dosificar el desarrollo de la IA, dando a la sociedad más tiempo para adaptarse a las capacidades que avanzan rápidamente. Sin embargo, no llegó a pedir una pausa total; una elección de palabras muy cuidadosa, por supuesto.
Los comentarios surgieron tras revelarse que un agente de OpenAI había vulnerado los sistemas de Hugging Face durante las pruebas de seguridad. ¿Lo más incómodo? Las empresas de IA siguen enfrentándose a una enorme presión para acelerar sus lanzamientos, conseguir financiación y superar a sus rivales… como si fueran frenos para un cohete. (TechCrunch)
Pippa quiere pagar a los artistas cuando la IA copie su estilo ↗
La startup de vídeo generativo Pippa ofrece a los artistas una parte de los ingresos cada vez que los suscriptores crean imágenes o clips basados en sus estilos visuales. Esto resulta inusualmente directo en comparación con el enfoque habitual del sector, que consiste en "enseñar primero, explicar después".
Sus fundadores afirman que la compensación podría demostrar que la IA generativa no tiene por qué depender del trabajo creativo no remunerado. Convencer a los artistas escépticos —mientras se mejoran modelos de vídeo bastante rudimentarios— sigue siendo el reto más difícil. (The Verge)
La producción de IA Wagner recibe abucheos del público ↗
Una producción experimental de Wagner utilizó proyecciones generadas por inteligencia artificial que se movían constantemente alrededor de los intérpretes. El collage incluía figuras políticas, imágenes de la reunificación y escenas relacionadas con los atentados contra el World Trade Center.
El público respondió con abucheos y silbidos, pues al parecer las imágenes les resultaron confusas en lugar de atractivas. Aun así, los cantantes, músicos y el director recibieron un cálido aplauso: los actores, sin embargo, recibieron una ovación. (AP News)
El director ejecutivo de Fender compara a los miembros de la banda con una "inteligencia artificial analógica" ↗
El director ejecutivo de Fender, Edward “Bud” Cole, argumentó que las versiones de canciones se asemejan a una forma analógica de entrenamiento de IA, mientras que los compañeros de banda pueden funcionar como herramientas de IA colaborativas al desarrollar las ideas inacabadas de otro músico.
La comparación generó críticas por desdibujar una distinción bastante importante: los humanos aportamos gusto, recuerdos, limitaciones físicas y felices coincidencias. Llamar a tu baterista un modelo de lenguaje es, quizás, una forma de dar por terminado el ensayo antes de tiempo. (The Verge)
Preguntas frecuentes
¿Qué información deben divulgar las empresas según la normativa europea de transparencia en materia de IA?
Las empresas que prestan servicios a usuarios europeos deben indicar claramente cuándo los clientes interactúan con un sistema de IA en lugar de con un humano. Por ejemplo, los chatbots no deben presentarse como personal de soporte con nombre sin una explicación clara. Estas normas buscan visibilizar el uso cotidiano de la IA, si bien se han pospuesto algunos requisitos más estrictos para sistemas de alto riesgo.
¿Cómo deben etiquetarse en Europa los contenidos generados por IA y los deepfakes?
El contenido sintético realista y los deepfakes deben llevar etiquetas claras para que los espectadores comprendan que el material fue generado o alterado mediante IA. El contenido generado también debe incluir marcadores legibles por máquina que las plataformas y el software puedan detectar. En la práctica, las empresas que publican imágenes, audio o vídeo creados con IA pueden necesitar tanto avisos visibles como metadatos técnicos.
¿Se han retrasado las normas de la UE sobre inteligencia artificial de alto riesgo?
Algunos requisitos más estrictos para los sistemas de IA de alto riesgo se aplazaron, pero las obligaciones de transparencia habituales se mantuvieron. Las empresas aún deben abordar la divulgación de información sobre chatbots y el etiquetado de contenido sintético realista. Un enfoque común consiste en revisar las herramientas de IA orientadas al cliente por separado de los sistemas de mayor riesgo, dado que los plazos y las obligaciones de cumplimiento pueden ser diferentes.
¿Por qué Sam Altman ha sugerido ralentizar el ritmo de desarrollo de la IA?
Sam Altman sugirió que la industria tal vez deba moderar el desarrollo, dando a la sociedad más tiempo para adaptarse a las capacidades de IA que avanzan rápidamente. No abogó por una pausa total. El debate refleja una tensión más amplia entre las preocupaciones de seguridad y la presión comercial sobre las empresas de IA para lanzar productos rápidamente, atraer inversiones y mantenerse a la vanguardia de la competencia.
¿Cómo podrían las empresas de IA compensar a los artistas cuyos estilos son copiados?
Pippa propone un modelo de reparto de ingresos en el que los artistas reciben una parte de los ingresos cuando los suscriptores generan imágenes o vídeos basados en sus estilos visuales. Esto crea una vía de compensación más directa que el uso del trabajo creativo sin remuneración. El mayor reto reside en convencer a los artistas escépticos de que el sistema es justo, transparente y beneficioso.
¿Por qué el público y los músicos se oponen al uso de la IA en el trabajo creativo?
La producción de Wagner fue criticada porque sus proyecciones generadas por IA, que cambiaban constantemente, resultaron confusas para algunos espectadores, mientras que los intérpretes humanos recibieron una calurosa ovación. El director ejecutivo de Fender, Bud Cole, también fue criticado por comparar las versiones de canciones y la colaboración entre bandas con el entrenamiento de la IA. Ambas reacciones ponen de manifiesto la preocupación de que tales comparaciones puedan pasar por alto el gusto humano, la memoria, la habilidad física y los imprevistos creativos.