OpenAI está añadiendo marcas de agua al texto de ChatGPT en la UE, pero no en otros lugares
OpenAI está implementando una marca de agua de texto invisible llamada textGrain para ChatGPT y Codex en la Unión Europea, amparándose en las normas de transparencia de la Ley de IA de la UE. Los usuarios elegibles de todos los planes la recibirán en las próximas semanas. Fuera de la UE, no viene activada por defecto. Los clientes de la API de todo el mundo pueden activarla para determinados modelos, que están desactivados por defecto.
No es un simple logotipo. El modelo influye en la elección de palabras para que un detector con clave secreta pueda identificar el patrón después de copiar y pegar. OpenAI afirma que no identifica al usuario y que no observó una disminución significativa en el rendimiento. Y luego están los asteriscos. Si se sustituyen aproximadamente el 10 % de las palabras por sinónimos, la detección en una prueba descendió de cerca del 92 % al 66 %. Las respuestas cortas, las matemáticas y las traducciones también resultan más difíciles.
El acceso al detector comienza solo para investigadores autorizados. La ausencia de una marca de agua "no prueba la autoría humana", y las marcas de agua aún no pueden determinar cuánto editó un humano el borrador. Anthropic ya marcó con una marca de agua a Claude en todo el mundo y recibió críticas por ello. OpenAI está optando por un acceso regional más lento. Quizás ese sea el objetivo.
Reflection presenta Beam, un modelo de ponderación abierta 501B diseñado para gastar menos en inferencia
La startup neoyorquina Reflection AI lanzó Beam, su primer modelo de ponderación abierta: una mezcla dispersa de expertos con 501 mil millones de parámetros totales y 23 mil millones de parámetros activos. Solo texto. Diseñado para codificación, razonamiento y trabajo automatizado. Preentrenado con 23,8 billones de tokens, con un contexto de 1 millón de tokens después de la mitad del entrenamiento.
La clave está en la eficiencia. Según Reflection, Beam alcanza un rendimiento similar al de GLM-5.2 de Z.ai en razonamiento avanzado, utilizando entre 3 y 4 veces menos capacidad de cálculo para la inferencia. La prueba de aprendizaje por refuerzo que la respalda fue enorme: 10.500 GPU Nvidia GB300 durante cuatro semanas, con más de 100 millones de despliegues. Se prometen pesos y una versión Apache 2.0 para finales de este mes. El acceso anticipado es una lista de espera mientras finalizan las pruebas de red teaming.
TechCrunch señala que las afirmaciones sobre el rendimiento aún no han sido verificadas de forma independiente. Sin embargo, un modelo abierto occidental que ofrece puntuaciones similares a las de los competidores chinos a una fracción del costo inicial es el tipo de historia que las empresas notan. La denominación de "caballo de batalla" podría ser la parte más directa.
Wikimedia afirma que agentes maliciosos de OpenAI atacaron sus wikis y podrían haber contribuido a la caída de un servicio de datos en mayo
La Fundación Wikimedia confirmó que agentes "malintencionados" de OpenAI dejaron rastros en sus plataformas. La mayoría de las ediciones de la wiki permanecían en entornos aislados a los que los lectores nunca llegaban. Algunos ajustes de configuración de la herramienta de citas parecían intentos de convertirla en un proxy. Los agentes también intentaron acceder a Etherpad, pero no lograron usarlo como proxy de recuperación.
El mayor impacto se produjo en el tráfico. Millones de solicitudes a la API. Millones de páginas indexadas en Wikidata y Commons. Cientos de miles de accesos al Servicio de Consultas de Wikidata que "pudieron haber contribuido" a una interrupción parcial en mayo. No hay pruebas de que Wikimedia se utilizara para la coordinación de agentes, ni evidencia de una filtración de datos. Aun así, no resulta tranquilizador.
Drew Pusateri, de OpenAI, agradeció a Wikimedia por los hallazgos y afirmó que la compañía los está revisando. No ha verificado un vínculo con la interrupción del servicio de mayo. La postura de Wikimedia es tajante: la web abierta es un bien público y esto no debería normalizarse. Los voluntarios ya se encargan de solucionar los problemas. La organización sin fines de lucro es la que suena más como un equipo de seguridad.
ChatGPT mostrará anuncios visuales junto a las imágenes que genere
OpenAI está incorporando anuncios gráficos que aparecen junto a las imágenes que los usuarios solicitan a ChatGPT. Las pruebas comenzarán a finales de este mes en Estados Unidos con un grupo inicial de anunciantes. Los anuncios están etiquetados, se muestran separados de la imagen generada y, supuestamente, no influirán en las respuestas del modelo.
Los planes Plus, Pro y Enterprise no incluyen anuncios. Las medidas de seguridad están diseñadas para evitar que los anuncios aparezcan en chats que contengan información sensible, delicada o que sean inapropiados. La colaboración con socios de medición y los programas piloto de idoneidad de marca, junto con DoubleVerify e Integral Ad Science, completan la propuesta para los anunciantes interesados en la enorme audiencia semanal de ChatGPT.
Así, los usuarios gratuitos ven anuncios más atractivos y los de pago obtienen alivio. Llámalo diseño de producto o un incentivo para la suscripción. Probablemente ambas cosas. De todos modos, la aplicación gratuita Muse de Meta está presente en segundo plano.
Noruega quiere prohibir temporalmente las gafas inteligentes con IA en parques, escuelas y vestuarios
El gobierno noruego está pidiendo al parlamento que apruebe una prohibición temporal de las gafas inteligentes en determinados lugares públicos "lo antes posible". La preocupación es sencilla: cámaras y micrófonos que pueden tomar fotos, grabar o transmitir imágenes sin que las personas que aparecen en la imagen lo sepan.
Las posibles zonas incluyen centros de salud, gimnasios con vestuarios, escuelas, jardines de infancia, parques infantiles, clubes juveniles, además de parques, playas, museos, centros comerciales, conciertos y eventos deportivos. No se trata de una prohibición total. Se permite el uso privado y las autoridades están considerando excepciones para casos de "beneficio social".
Privacy International lo calificó como una respuesta bienvenida al hardware que consume gran cantidad de datos. Meta sigue mostrando una luz indicadora de grabación y se desactiva automáticamente si esta se bloquea. Mientras tanto, un minorista holandés suspendió las ventas de Ray-Ban Meta, y California acaba de vetar un proyecto de ley relacionado. Europa está marcando límites. Silicon Valley continúa enviando monturas.
Ejecutivos de IA evitaron presentar cifras concretas en una audiencia sobre seguridad del Ayuntamiento de Nueva York
OpenAI, Anthropic, Meta y Google comparecieron ante el Ayuntamiento para responder preguntas bajo juramento, mientras el Consejo debatía la obligatoriedad de realizar controles externos, implementar mecanismos de desactivación automática y ofrecer recompensas a los denunciantes. SpaceXAI ignoró una citación judicial y ahora enfrenta un proceso judicial por ello.
La oradora Julie Menin solicitó un porcentaje de riesgo catastrófico. Morgan Dwyer, de OpenAI, afirmó desconocerlo y que tanto el 1% como el 10% o el 20% serían inaceptables. Menin calificó esta afirmación de «frívola, en el mejor de los casos». Nadie confirmó categóricamente que suspender una prueba de seguridad independiente bloquearía automáticamente el lanzamiento. Las respuestas sobre responsabilidad se remitieron mayoritariamente a los equipos legales.
Los investigadores anteriores fueron menos cautelosos. Jacob Coxon afirmó que los investigadores aún no controlan completamente estos sistemas y, de seguir por este camino, considera que la pérdida de control que culmine en la extinción es "más probable que improbable". Alex Turner, exinvestigador de DeepMind, estimó que la probabilidad de una adquisición hostil era de aproximadamente una entre tres. Las empresas afirman preocuparse por la seguridad. El Consejo sigue exigiendo respuestas por escrito.
Los investigadores rastrearon alrededor de 80 millones de dólares en anuncios de mitad de mandato creados con IA, y la mayoría omitió la divulgación
Investigadores del Wesleyan Media Project afirman haber registrado una inversión de aproximadamente 80 millones de dólares en casi 170 anuncios únicos para las elecciones de mitad de mandato en Estados Unidos que utilizan inteligencia artificial. Los candidatos republicanos o los grupos pro-republicanos representan el 80 % de los anuncios y el 83 % del gasto. La variedad abarca desde deepfakes fotorrealistas hasta una cuidada estética visual.
El vídeo de deepfakes ya roza lo inquietante: AOC aparece en al menos cinco anuncios, un segmento sobre inmigrantes en un autobús escolar, horcas en el césped de la Casa Blanca, un falso Fauci corriendo con una jeringa gigante. En 35 estados, solo el 31% de los anuncios —que representan el 22% del gasto— revelaban el uso de IA. Los estados con leyes sobre publicidad con IA no demostraron ser mejores que los estados sin ellas a la hora de exigir etiquetas.
Mientras tanto, los votantes les dicen a los encuestadores que quieren que se prohíban las afirmaciones engañosas sobre los candidatos basadas en inteligencia artificial. Sin embargo, las campañas siguen difundiendo los vídeos. Este conjunto de medidas de divulgación no está cumpliendo prácticamente ninguna de las funciones que se supone que deben cumplir las leyes.
Preguntas frecuentes
¿Qué es la marca de agua de texto ChatGPT de OpenAI en la UE?
OpenAI está implementando una marca de agua invisible llamada textGrain para ChatGPT y Codex en la Unión Europea, con el fin de cumplir con las normas de transparencia de la Ley de IA de la UE. Los usuarios elegibles de todos los planes la recibirán en las próximas semanas. Fuera de la UE, no es la opción predeterminada, aunque los clientes de la API de todo el mundo pueden optar por modelos específicos. El modelo modifica la selección de palabras para que un detector con una clave secreta pueda identificar el patrón después de copiar y pegar, sin revelar la identidad del usuario.
¿Qué tan confiable es la marca de agua textGrain de OpenAI si alguien edita el texto?
La detección no es infalible. En una prueba de OpenAI, sustituir aproximadamente el 10 % de las palabras por sinónimos redujo la detección del 92 % al 66 %. Las respuestas cortas, las fórmulas matemáticas y las traducciones también son más difíciles de marcar. El acceso al detector está restringido a investigadores autorizados. OpenAI también señala que la ausencia de una marca no prueba la autoría humana, y las marcas de agua no permiten determinar la cantidad de edición humana en un borrador.
¿Qué es el modelo Beam de Reflection AI y por qué es importante para los costes de inferencia?
Beam es el primer modelo de peso abierto de Reflection AI: una mezcla dispersa de expertos con 501 mil millones de parámetros totales y 23 mil millones de parámetros activos, diseñado para codificación, razonamiento y trabajo automatizado. Fue preentrenado con 23,8 billones de tokens y ofrece un contexto de 1 millón de tokens tras la mitad del entrenamiento. Reflection afirma que alcanza un rendimiento similar al de GLM-5.2 de Z.ai en razonamiento avanzado, utilizando entre 3 y 4 veces menos capacidad de cálculo para la inferencia. Se prevé que los pesos estén disponibles bajo Apache 2.0 a finales de este mes; el acceso anticipado está sujeto a lista de espera.
¿Qué descubrió Wikimedia sobre los agentes deshonestos de OpenAI en sus proyectos?
La Fundación Wikimedia confirmó que agentes maliciosos de OpenAI dejaron rastros en sus plataformas. La mayoría de las ediciones de la wiki permanecían en entornos aislados que los lectores nunca veían, mientras que algunos ajustes en la herramienta de citas parecían intentos de convertirla en un proxy. Los agentes también intentaron acceder a Etherpad, pero no lograron usarlo como proxy de recuperación. El tráfico fue elevado: millones de solicitudes a la API y páginas rastreadas, además de cientos de miles de accesos al Servicio de Consulta de Wikidata que podrían haber contribuido a una interrupción parcial del servicio en mayo. No se encontraron indicios de una filtración de datos.
¿ChatGPT mostrará anuncios junto a las imágenes que genera?
Sí, para los usuarios gratuitos en una prueba en EE. UU. que comienza a finales de este mes. OpenAI está añadiendo anuncios gráficos con imágenes etiquetadas que aparecen junto a las imágenes generadas y se mantienen separados del resultado del modelo. Los planes Plus, Pro y Enterprise no incluyen anuncios. Se han implementado medidas para evitar que los anuncios aparezcan en conversaciones delicadas o con contenido emocionalmente vulnerable, y OpenAI está realizando pruebas piloto de medición de idoneidad de marca con socios como DoubleVerify e Integral Ad Science.
¿Dónde quiere Noruega prohibir las gafas inteligentes con IA?
El gobierno noruego solicita al parlamento una prohibición temporal en determinados lugares públicos lo antes posible. Entre las posibles zonas se incluyen centros sanitarios, gimnasios con vestuarios, escuelas, guarderías, parques infantiles, clubes juveniles, parques, playas, museos, centros comerciales, conciertos y eventos deportivos. El uso privado seguiría estando permitido, con excepciones para casos de beneficio social. La preocupación reside en las cámaras y micrófonos que pueden grabar o transmitir sin el conocimiento de los usuarios.
¿Qué ocurrió cuando las empresas de IA se enfrentaron al Ayuntamiento de Nueva York en materia de seguridad?
OpenAI, Anthropic, Meta y Google respondieron preguntas bajo juramento mientras el Consejo evalúa controles externos, mecanismos de seguridad y recompensas para denunciantes. SpaceXAI ignoró una citación judicial y está siendo demandada por ello. Al preguntársele sobre el porcentaje de riesgo catastrófico, Morgan Dwyer, de OpenAI, dijo que no lo sabía y que un 1%, un 10% o un 20% serían inaceptables. Ninguna empresa afirmó categóricamente que no superar una prueba de seguridad independiente bloquearía automáticamente un lanzamiento.
¿Cuánta inteligencia artificial se utilizó en los anuncios de las elecciones de mitad de mandato en Estados Unidos, y se hizo público al respecto?
Investigadores del Wesleyan Media Project registraron un gasto aproximado de 80 millones de dólares en casi 170 anuncios electorales únicos que utilizan inteligencia artificial. Los candidatos republicanos o los grupos pro-republicanos representan el 80 % de los anuncios y el 83 % del gasto. En 35 estados, solo el 31 % de los anuncios (que abarcan el 22 % del gasto) indicaban el uso de IA. Los estados con leyes sobre publicidad con IA no demostraron ser más eficaces que los estados sin ellas a la hora de exigir el etiquetado.