OpenAI suspenderá parte del trabajo en el modelo de IA Astra debido a preocupaciones de seguridad ↗
OpenAI ha suspendido el desarrollo interno de Astra, que no cumple con los requisitos de seguridad más estrictos, tras evaluaciones que sugieren que sus capacidades cibernéticas podrían haber superado un umbral crítico. Según se informa, el agente podría encontrar y explotar vulnerabilidades sin intervención humana, o llevar a cabo ataques con un objetivo de alto nivel. Sí... cruzar esa línea es bastante peligroso.
La empresa está reforzando las pruebas aisladas, el acceso a la red y a las herramientas, la protección de los pesos del modelo, el cifrado y la monitorización. Astra no estuvo involucrada en el incidente anterior de Hugging Face de OpenAI, pero la tendencia generalizada de agentes cada vez más autónomos está convirtiendo la contención en una preocupación mucho mayor. (Fuente: The Guardian)
Apple afirma que los usuarios de Mac en China pueden conectarse al servicio de IA Qwen de Alibaba ↗
Los usuarios de Mac que cumplan los requisitos en China continental ya pueden conectar Qwen de Alibaba con Siri y las Herramientas de Escritura de Apple. Esto permite obtener respuestas más detalladas, análisis de documentos e imágenes, así como generar texto e imágenes a partir de descripciones.
Francamente, es una alianza interesante: Apple consigue una vía local para desarrollar funciones de IA más potentes en un mercado de PC altamente competitivo, mientras que Alibaba ve cómo Qwen se integra mucho más profundamente en el ecosistema de otra empresa. Apple afirma que Alibaba no puede utilizar el material enviado a través de la extensión para entrenar sus modelos. (Fuente: Reuters)
Google DeepMind entra en una nueva era a medida que el cofundador Demis Hassabis cambia de rol en el ámbito de la IA ↗
Demis Hassabis deja el liderazgo diario de DeepMind para convertirse en presidente y, al mismo tiempo, asumir el cargo de científico jefe en Alphabet. Su colega de larga data, Koray Kavukcuoglu, pasa a controlar las operaciones como vicepresidente sénior en lugar de director ejecutivo; un sutil cambio de título que resulta bastante significativo.
Esta reorganización se produce junto con otras importantes salidas de investigadores y plantea interrogantes sobre si DeepMind está perdiendo independencia y se está integrando cada vez más en la maquinaria comercial de IA de Google. Google niega que el cambio esté relacionado con el rendimiento competitivo de Gemini. (Fuente: The Guardian)
Un número creciente de niños británicos informa haber visto deepfakes explícitos de sí mismos ↗
Las denuncias de niños británicos sobre imágenes explícitas, falsas o manipuladas de sí mismos se han disparado. Report Remove recibió 420 denuncias en tan solo seis meses, superando ya su total anual anterior de 397. Las herramientas de "desnudez" basadas en inteligencia artificial están facilitando enormemente la propagación de este problema.
La Internet Watch Foundation afirma que muchas de las imágenes manipuladas denunciadas eran lo suficientemente graves como para considerarse material de abuso sexual infantil. Algunas víctimas también fueron objeto de extorsión sexual, convirtiendo una imagen generada por IA en un arma muy tangible. (Fuente: The Guardian)
Las funcionalidades de IA están superando el valor empresarial, según una encuesta ↗
Las empresas de software empresarial están lanzando numerosas funcionalidades de IA, pero los clientes no necesariamente las utilizan. En una encuesta realizada a más de 260 empresas de software especializadas, el 51 % afirmó que menos de una cuarta parte de sus clientes utilizaban las capacidades de IA que habían desarrollado. Un tanto desconcertante después de todo ese esfuerzo...
El principal obstáculo parece ser menos la capacidad de la IA y más la integración, la seguridad, la privacidad, los cambios en los flujos de trabajo y la demostración de un valor comercial concreto. Un fenómeno particularmente peculiar es el "tokenmaxing": un consumo excesivo de IA que resulta impresionante en un panel de control sin pruebas claras de que genere mejores resultados. (Fuente: Forbes)
La IA está cambiando el trabajo más rápido de lo que los datos pueden asimilar ↗
El debate sobre los empleos relacionados con la IA se está volviendo más complejo, no más claro. Un estudio que abarcó a más de 21.000 empresas estadounidenses reveló que las que adoptaron la IA con mayor intensidad aumentaron su plantilla total en un 10 % y las contrataciones de nivel inicial en un 12 %, mientras que las que la adoptaron con menor intensidad no mostraron crecimiento en su plantilla.
Pero otras investigaciones han detectado presión laboral entre los trabajadores jóvenes en puestos expuestos a la IA, y los economistas advierten que las empresas en crecimiento aún pueden contratar personal mientras la IA transforma las ocupaciones en toda la economía. Así pues, la IA está destruyendo empleos y creando otros... o al menos eso es lo que sugieren los datos contradictorios. (Fuente: Fortune)
Preguntas frecuentes
¿Cuáles son las noticias más importantes sobre inteligencia artificial en este momento?
Las noticias recientes sobre IA apuntan a varios temas recurrentes: mayores capacidades autónomas, controles de seguridad más estrictos, integraciones de plataformas más profundas, cambios en la dirección, riesgos para la seguridad en línea e incertidumbre sobre su valor comercial. OpenAI está reforzando las medidas de seguridad en torno a Astra, Apple está conectando Qwen a los Mac en China y DeepMind está cambiando su equipo directivo. Al mismo tiempo, crece la preocupación por los deepfakes, la adopción empresarial y el impacto de la IA en el empleo.
¿Por qué OpenAI suspendió parte del trabajo en Astra?
Según se informa, OpenAI suspendió el desarrollo interno de Astra, que no cumplía con los requisitos de seguridad más estrictos, tras evaluaciones que sugerían que las capacidades cibernéticas del modelo podrían haber alcanzado un nivel crítico. La preocupación radica en que un agente avanzado podría descubrir y explotar vulnerabilidades con poca o ninguna intervención humana. En respuesta, OpenAI está reforzando las pruebas aisladas, los controles de acceso, el cifrado, la monitorización y las protecciones en torno a los pesos del modelo.
¿Cómo funcionará Alibaba Qwen con los ordenadores Apple Mac en China?
Los usuarios de Mac elegibles en China continental pueden conectar el servicio Qwen de Alibaba con Siri y las Herramientas de Escritura de Apple. Esta integración permite obtener respuestas más detalladas, analizar documentos e imágenes y generar texto o imágenes a partir de descripciones. Para Apple, este acuerdo ofrece una vía local para acceder a funcionalidades de IA más potentes, mientras que Alibaba obtiene un mayor acceso al ecosistema de Apple. Apple aclara que el material enviado no se puede utilizar para entrenar los modelos de Alibaba.
¿Qué implica el cambio de liderazgo en DeepMind para la IA de Google?
Demis Hassabis se apartará de la dirección diaria de DeepMind para asumir la presidencia y el cargo de científico jefe en Alphabet. Koray Kavukcuoglu tomará el control operativo como vicepresidente sénior. Este cambio ha suscitado dudas sobre si DeepMind se está integrando más estrechamente con las operaciones comerciales de IA de Google, aunque Google niega que la reorganización esté relacionada con el desempeño competitivo de Gemini.
¿Por qué las falsificaciones profundas creadas con IA se están convirtiendo en una preocupación cada vez mayor para la seguridad infantil?
Las herramientas de manipulación de imágenes basadas en IA facilitan la creación a gran escala de imágenes falsas explícitas y realistas. Cada vez más niños en el Reino Unido denuncian imágenes manipuladas o falsificadas de sí mismos, y algunos casos han sido lo suficientemente graves como para considerarse material de abuso sexual infantil. Estas imágenes también pueden utilizarse para la extorsión sexual, lo que significa que una imagen falsificada puede causar un daño considerable a la reputación, a nivel emocional y económico.
¿Se están beneficiando ya las empresas y los trabajadores de la IA?
Las últimas noticias sobre IA sugieren que la respuesta es ambigua. Muchas empresas de software están incorporando funciones de IA más rápido de lo que los clientes las adoptan, y la integración, la privacidad, la seguridad y el valor comercial cuantificable siguen siendo obstáculos importantes. Los datos sobre empleo presentan una complejidad similar: algunas empresas con una alta adopción de IA están aumentando la contratación, mientras que otras investigaciones señalan la presión sobre los trabajadores más jóvenes en puestos expuestos a la IA. El impacto general depende en gran medida del sector, el flujo de trabajo y la forma en que se implementa la IA.