Nuestra decisión sobre Cursor tras su adquisición por SpaceX ↗
OpenAI ha anunciado que pondrá fin a su acuerdo de suministro de modelos a Cursor tras la adquisición de la plataforma de codificación por parte de SpaceX. La compañía afirma que ya no puede confiar en que SpaceX utilice su tecnología según los términos establecidos por OpenAI.
OpenAI también afirma que no proporcionará modelos futuros a Cursor. Esto supone una ruptura bastante significativa, especialmente para los desarrolladores que han llegado a considerar Cursor junto con los modelos de OpenAI como una pila de codificación casi estándar. (OpenAI)
Tencent, la empresa china, lanza un nuevo modelo de IA de código abierto para tareas de codificación e investigación ↗
Tencent lanzó una versión preliminar de Hy4, un modelo de código abierto orientado a la ingeniería de software, la investigación y el análisis financiero. Utiliza una arquitectura de expertos combinados con un total de 770 mil millones de parámetros, activando aproximadamente 49 mil millones por cada solicitud de texto.
Tencent planea integrarlo en productos como CodeBuddy y WorkBuddy. La compañía admite que la vista previa puede sobreanalizarse en preguntas complejas y verificarse a sí misma con demasiado entusiasmo... algo comprensible, a su manera. (Reuters)
Los investigadores automatizados pueden mitigar de forma fiable los fallos de alineación ↗
Anthropic mostró a Claude buscando información de forma autónoma, proponiendo técnicas de entrenamiento, realizando experimentos y mejorando modelos en 10 categorías de fallos de alineación, incluyendo el engaño, las fugas de la red y el servilismo.
Sus métodos más potentes mejoraron todos los parámetros de referencia establecidos sin menoscabar las capacidades medidas por Anthropic, y algunos se transfirieron a modelos hasta 4,7 veces mayores. El sistema de investigación automatizado de Claude también superó las propuestas de investigadores de seguridad humanos con experiencia en el marco del estudio.
Claro que hay un inconveniente. Anthropic detectó comportamientos fraudulentos en una pequeña fracción de las ejecuciones de investigación automatizadas y subraya que sus pruebas de rendimiento solo abarcan una pequeña parte de las condiciones prácticas de alineación. En resumen... investigación con IA que se auto-mejora, con una IA supervisando al investigador. Algo de lo más normal. (Anthropic)
Anthropic fue incluida ilegalmente en la lista negra por la administración Trump, según dictaminó un tribunal ↗
Un juez federal dictaminó que la decisión del Pentágono de incluir a Anthropic en la lista negra por considerarla un riesgo para la cadena de suministro era inconstitucional, calificando la medida de represalia ilegal y considerando la designación arbitraria y caprichosa.
La disputa surgió cuando Anthropic se negó a eliminar las restricciones que le impedían usar su IA para la vigilancia masiva de ciudadanos estadounidenses o para el desarrollo de armas autónomas letales sin supervisión humana. El fallo representa una importante victoria para Anthropic y sienta un precedente significativo en el debate sobre si los gobiernos pueden sancionar a los proveedores de IA por establecer sus propios límites de seguridad. (The Verge)
El Fondo de la Era de las Máquinas ↗
Andreessen Horowitz recaudó 1.100 millones de dólares para un nuevo fondo llamado Machine Age Fund, centrado en la infraestructura física que sustenta la IA: chips, memoria, redes, almacenamiento, centros de datos, robótica e incluso hardware de IA para el hogar.
La tesis principal es que el próximo cuello de botella de la IA no es otra función ingeniosa de chatbot, sino la física. La energía, la refrigeración, el ancho de banda de la memoria y las redes deben escalar a una velocidad vertiginosa, y a16z quiere tener voz y voto en ese aspecto del hardware. (Andreessen Horowitz)
Google oculta aún más los resultados de búsqueda en modo IA ↗
Google ha comenzado a ampliar automáticamente las vistas generales de IA para algunas búsquedas. En lugar de un breve resumen seguido rápidamente de los enlaces tradicionales, los usuarios pueden obtener una respuesta completa de IA, un cuadro de "Pregunta lo que quieras" y solo después los resultados web habituales.
Google afirma que la experiencia ampliada aparece cuando sus sistemas consideran que será especialmente valiosa. Para los editores, sin embargo, la parte incómoda es evidente: los enlaces habituales se desplazan cada vez más abajo en la página, mientras que la IA de Google se vuelve cada vez más difícil de sortear. (The Verge)
Preguntas frecuentes
¿Por qué OpenAI está poniendo fin a su acuerdo de modelos con Cursor tras la adquisición por parte de SpaceX?
OpenAI afirma que planea limitar el acceso a los modelos de Cursor, ya que no tiene la certeza de que SpaceX utilizará su tecnología conforme a los términos de OpenAI. La compañía también indica que no proporcionará futuros modelos de OpenAI a Cursor. Para los desarrolladores, esto podría alterar el flujo de trabajo de programación que habitualmente combinaba Cursor con los modelos de OpenAI.
¿Qué es Tencent Hy4 y para qué está diseñado?
Tencent Hy4 es un modelo de IA de código abierto diseñado para ingeniería de software, investigación y análisis financiero. La versión preliminar utiliza una arquitectura de expertos combinados con un total de 770 mil millones de parámetros, activando aproximadamente 49 mil millones por cada solicitud de texto. Tencent planea integrar Hy4 en productos como CodeBuddy y WorkBuddy, aunque reconoce que la versión preliminar a veces puede sobreanalizarse y sobreverificar preguntas complejas.
¿Pueden los investigadores de IA mejorar automáticamente la alineación de los modelos?
La investigación de Anthropic sugiere que los investigadores de IA automatizada pueden identificar y probar técnicas para reducir varios tipos de fallos de alineación. Se utilizó Claude para buscar investigaciones existentes, proponer enfoques de entrenamiento, realizar experimentos y evaluar mejoras en áreas como el engaño, las fugas de memoria y la adulación. Anthropic también descubrió que algunas técnicas exitosas se transferían a modelos más grandes, aunque el estudio solo abarcó un rango limitado de condiciones prácticas de alineación.
¿Por qué un tribunal dictaminó que Anthropic había sido incluida ilegalmente en la lista negra?
Un juez federal dictaminó que la designación de Anthropic como riesgo para la cadena de suministro por parte del Pentágono era inconstitucional, arbitraria y caprichosa. La disputa surgió a raíz de la negativa de Anthropic a eliminar las restricciones relativas a la vigilancia masiva de ciudadanos estadounidenses y a las armas autónomas letales sin supervisión humana. El fallo podría convertirse en un importante precedente en futuras disputas sobre si los gobiernos pueden sancionar a las empresas de IA por mantener sus propias restricciones de seguridad.
¿Por qué a16z está invirtiendo 1.100 millones de dólares en infraestructura de IA?
Andreessen Horowitz creó el fondo Machine Age Fund, dotado con 1.100 millones de dólares, para invertir en los sistemas físicos necesarios para escalar la inteligencia artificial. Su enfoque abarca chips, memoria, redes, almacenamiento, centros de datos, robótica y hardware de IA para el hogar. El fondo refleja una tendencia más amplia en el ámbito de la IA: el progreso futuro podría depender tanto de la energía, la refrigeración, el ancho de banda y la infraestructura informática como de las mejoras en los modelos de software.
¿Cómo están cambiando los resúmenes de IA de Google los resultados de búsqueda tradicionales?
Google está ampliando automáticamente las secciones de "Resumen de IA" para algunas búsquedas, mostrando una respuesta generada por IA más completa y una interfaz de "Pregunta lo que quieras" antes de los resultados web tradicionales. Esto significa que los enlaces comunes pueden aparecer más abajo en la página. Para los editores y los equipos de SEO que siguen las noticias sobre IA, este cambio plantea interrogantes prácticos sobre la visibilidad en los resultados de búsqueda, el tráfico de referencia y cómo los usuarios descubren las fuentes originales.