Google impugnará el fallo alemán que la responsabiliza de las afirmaciones falsas generadas por IA ↗
Google planea apelar un fallo de un tribunal de Múnich que clasifica los resúmenes de IA como contenido publicado por la propia empresa, lo que la hace legalmente responsable cuando dichos resúmenes contienen afirmaciones falsas.
La demanda fue interpuesta por dos editoriales alemanas que habían sido vinculadas erróneamente a estafas y prácticas comerciales dudosas. Google describe los errores como puntuales, pero el fallo podría suponer una carga legal considerable para todos los motores de búsqueda de respuestas con inteligencia artificial. (Reuters)
Ejecutivos del sector tecnológico asistirán a la cumbre del G7, donde los líderes abordarán temas como la IA y la seguridad en línea ↗
Se espera que líderes de OpenAI, Anthropic, Google DeepMind, Mistral AI, Cohere y Meta se unan a funcionarios del G7 para debatir temas como la regulación de la IA, la infraestructura y la seguridad en línea.
La protección de los menores en línea también está sobre la mesa. Así pues, sí, la industria de la IA se sienta junto a los líderes mundiales, aunque aún no está claro si esto conlleva una verdadera rendición de cuentas o simplemente un almuerzo de lujo. (Reuters)
Anthropic anuncia que retirará Claude Fable 5 del mercado para cumplir con una orden del gobierno estadounidense ↗
Anthropic desactivó los juegos Claude Fable 5 y Mythos 5 tras recibir una directiva de control de exportaciones de EE. UU. destinada a bloquear el acceso a ciudadanos extranjeros, incluidos los empleados de Anthropic.
La empresa revocó el acceso a todos los usuarios mientras cuestionaba la justificación del gobierno. Según se informa, los funcionarios alegaron preocupaciones sobre una posible fuga de la red, pero Anthropic afirma que la vulnerabilidad demostrada era limitada y solo reveló fallos de seguridad relativamente menores y ya conocidos... una situación bastante incómoda, por decirlo suavemente. (WIRED)
Según los informes, la nueva unidad de IA de Meta está sumida en el caos ↗
Según declaraciones de empleados y conversaciones internas revisadas por WIRED, la organización de IA aplicada de Meta se enfrenta a una profunda frustración interna. Este grupo, compuesto por aproximadamente 6.500 personas, se creó para dar soporte a los investigadores de superinteligencia de Meta.
Según los informes, los empleados sienten que fueron encauzados hacia tareas repetitivas de mejora de modelos en medio de un liderazgo poco claro y prioridades erráticas. Las tensiones se intensificaron notablemente cuando un empleado interrumpió una importante presentación interna con un discurso plagado de improperios; sutil, desde luego. (WIRED)
Una organización china de ciberdelincuencia que utilizó inteligencia artificial para estafar a "cientos de miles de víctimas" es demandada por Google ↗
Google ha demandado a Outsider Enterprise, una supuesta red de ciberdelincuencia acusada de utilizar herramientas con asistencia de inteligencia artificial para crear sitios web de phishing convincentes y enviar mensajes de texto fraudulentos suplantando la identidad de grandes marcas.
Google afirma que la operación desplegó miles de sitios web falsos, aproximadamente un millón de dominios fraudulentos y millones de mensajes. Según se informa, su software permitió a personas con conocimientos técnicos limitados generar infraestructura de phishing en cuestión de minutos: un cibercrimen simplificado. (TechCrunch)
Preguntas frecuentes
¿Por qué Google está apelando la sentencia alemana sobre la revisión de la IA?
Google planea impugnar una decisión judicial de Múnich que considera los resúmenes de IA como contenido publicado por la propia Google. El fallo se produjo tras la publicación de resúmenes falsos que vinculaban a dos editores alemanes con estafas y prácticas comerciales dudosas. De confirmarse, la decisión podría hacer que los proveedores de respuestas de IA sean legalmente responsables de las afirmaciones inexactas que aparecen en sus resúmenes de búsqueda.
¿Qué implicaciones podría tener la sentencia alemana para la responsabilidad en materia de inteligencia artificial?
Esta decisión podría establecer un estándar más amplio para la responsabilidad de la IA al responsabilizar a una plataforma por las declaraciones generadas mediante sus propias funciones de IA. Los tribunales de muchas jurisdicciones aún están determinando si los resúmenes generados deben considerarse contenido alojado por terceros o publicación directa. Por lo tanto, la apelación podría influir en cómo se resuelven disputas similares en otros lugares.
¿Por qué asisten ejecutivos del sector tecnológico a la cumbre del G7?
Se espera que ejecutivos de OpenAI, Anthropic, Google DeepMind, Mistral AI, Cohere y Meta participen en conversaciones con los líderes del G7. La agenda incluye la regulación de la IA, la infraestructura, la seguridad en línea y la protección de la infancia. Su asistencia brinda a los gobiernos la oportunidad de interrogar directamente a los principales desarrolladores de IA sobre los riesgos, las responsabilidades y las políticas futuras.
¿Por qué Anthropic retiró de internet Claude Fable 5 y Mythos 5?
Anthropic desactivó ambos modelos tras recibir una directiva de control de exportaciones de EE. UU. destinada a impedir el acceso a ciertos ciudadanos extranjeros, incluidos algunos empleados. La empresa revocó el acceso para todos, cuestionando la justificación del gobierno. Según se informó, las autoridades alegaron preocupación por una posible fuga de memoria, aunque Anthropic describió la vulnerabilidad demostrada como limitada y que involucraba fallos de seguridad relativamente menores que ya eran conocidos.
¿Qué está provocando la agitación que, según los informes, se produce dentro de la unidad de IA de Meta?
Según los informes, los empleados describen un liderazgo poco claro, prioridades cambiantes y un trabajo repetitivo de mejora de modelos dentro de la organización de IA Aplicada de Meta. Este grupo se creó para apoyar a los investigadores de superinteligencia de la empresa y cuenta con aproximadamente 6500 personas. La frustración se hizo especialmente evidente cuando un empleado interrumpió una importante presentación interna con una queja airada y llena de improperios.
¿Cómo utilizan los delincuentes la IA para realizar estafas de phishing?
Según la demanda de Google, la supuesta red Outsider Enterprise utilizó software con inteligencia artificial para crear sitios web de phishing convincentes y mensajes fraudulentos que suplantaban la identidad de grandes marcas. Al parecer, estas herramientas permitieron a usuarios con poca experiencia técnica crear rápidamente infraestructura de phishing. Google afirma que la operación involucró miles de sitios falsos, alrededor de un millón de dominios fraudulentos y millones de mensajes.