El nuevo "código de conducta" de la IA de Microsoft prohíbe a los modelos piratear sistemas o engañar a los humanos
Bueno, Microsoft publicó toda una constitución para sus modelos, con líneas rojas muy claras. Nada de ciberataques. Nada de armas nucleares. Nada de fábricas de deepfakes. Y lo más importante: el modelo no puede eludir su responsabilidad.
Lo llaman un código general que anula todo lo que hayas escrito en el chat. Lo cual es... un poco refrescante. O controlador. Quizás ambas cosas.
Nadella también asiente con la cabeza, sumándose a la corriente de quienes defienden la innovación. Una postura cautelosa y una actitud crítica pueden parecer lo mismo desde fuera; Microsoft opta por no ser el laboratorio que se encoge de hombros.
En cualquier caso, el documento parece escrito como si alguien finalmente hubiera redactado en lenguaje corporativo la frase "por favor, no te conviertas en el antagonista de una película de terror".
OpenAI compra el fabricante de cámaras para teléfonos inteligentes Glass Imaging por 300 millones de dólares, según un informe
Mientras tanto, OpenAI compró discretamente una empresa emergente de cámaras por más de 300 millones de dólares: Glass Imaging. Fundada por exempleados del modo retrato de Apple. Así que no se trata de una adquisición al azar: estas personas han lanzado al mercado lentes que son muy conocidos.
La idea no es que la IA retoque tus selfies en la edición. Se trata de redes neuronales que aprenden las características específicas de las cámaras de un teléfono y obtienen mejores fotos con solo pulsar el obturador. Sensores diminutos, gran ambición.
OpenAI no hizo comentarios. Por supuesto. Y sí, esto se suma a todos los rumores sobre hardware, teléfonos, auriculares y demás dispositivos. Casi se puede oír a alguien mencionar "vision stack" en una reunión y a todos asintiendo con entusiasmo.
Que una empresa de cámaras sea la pieza que falta para un dispositivo sigue siendo una apuesta abierta, o simplemente una apuesta muy cara a que los píxeles todavía importan cuando los chatbots se apoderan del mundo.
Las acciones globales de IA caen mientras los líderes de la industria piden una desaceleración del desarrollo
Los mercados no recibieron bien el discurso sobre seguridad. Las acciones de las empresas de semiconductores sufrieron fuertes caídas. SoftBank fue duramente golpeada en Asia. El sector tecnológico europeo se estremeció. El índice SOX tuvo una mañana complicada.
El detonante fue ese raro momento en que los directores ejecutivos coinciden en algo: el "reduzcan la velocidad" de Amodei, y el "sí, básicamente" de Altman y Musk. Altman también insinuó que OpenAI no saldrá a bolsa este año por preocupaciones de seguridad… mientras que Anthropic sigue avanzando a toda velocidad hacia la suya. Esa tensión es difícil de disipar.
Trump lo desestimó como una “conspiración enfermiza” contra la IA y los centros de datos. Michael Burry calificó las advertencias de exageradas. Así pues, el ambiente es el siguiente: angustia existencial por un lado, cinismo propio de los memes por el otro.
Además, las empresas de ciberseguridad repuntaron. Porque, claro, la mejor manera de protegerse contra la posibilidad de que la IA se descontrole es comprar más software de seguridad. El capitalismo siempre encuentra la manera…
Las principales empresas de IA han debatido la creación de su propio organismo de normalización
CNN afirma que Anthropic, Google y OpenAI han estado conversando sobre la creación de su propio organismo de estandarización, similar a la FINRA para modelos de vanguardia. Hassabis ya había planteado la idea hace meses. Ahora, al parecer, los grupos de trabajo son una realidad.
Financiado por la industria. Expertos independientes. Se prueban los modelos avanzados antes de su lanzamiento. Se están llevando a cabo conversaciones sobre si Washington quiere participar o no.
La autorregulación siempre suena noble hasta que recuerdas que los mismos laboratorios compiten entre sí. Entonces suena como un club con código de vestimenta. Y entonces reconsideras tu postura: bueno, tal vez ayudarían evaluadores externos con acceso similar al de los empleados.
No todos están convencidos. Según se informa, Zuckerberg le dijo a Trump que descartara la idea de una FINRA para la IA. Así que la coalición que aboga por la autorregulación ya tiene un escéptico muy conocido.
Anthropic apunta a los asesores financieros con la nueva herramienta Claude
Mientras la mitad del sector frenaba sus debates, Anthropic lanzó Claude para asesores financieros. Conecta con BlackRock, Schwab, Addepar, además de un montón de nombres importantes en el sector de la gestión patrimonial como Envestnet y Orion.
Preparación de reuniones. Revisión de portafolios. Tareas de seguimiento. Esas cosas poco glamorosas que, de alguna manera, siguen consumiendo el martes de una persona.
El momento elegido es sorprendente: días después del lanzamiento de OpenAI en el sector financiero para banqueros e investigadores. Así que sí, están marcando la pauta en la frontera... y también compitiendo por una mayor cuota de mercado en las carteras de inversión de asesores de inversión registrados (RIA). Una leve contradicción. Muy leve. Muy obvia.
Si tu asesor empieza a hablar con una fluidez sospechosa sobre tus inversiones, bueno, ahora ya sabes por qué.
Los líderes de la IA piden una desaceleración. El equipo de Trump dice que la responsabilidad recae sobre ellos
WIRED capta a la perfección el golpe político: los jefes de los laboratorios quieren ayuda para frenar; el ambiente en la Casa Blanca es de "tranquilos, háganlo ustedes mismos"
David Sacks básicamente dijo que si sus modelos no lanzados les asustan, sean responsables, pero dejen de fingir que necesitan una exención antimonopolio para formar un cártel de seguridad. Duro. Aunque es difícil rebatirlo si uno ha visto a estas empresas durante cinco minutos.
El argumento de Trump es más sencillo: Estados Unidos lidera a China en inteligencia artificial y quiere que siga siendo así: «quien gane en IA, gana». El presidente de la Cámara de Representantes, Johnson, advierte que una regulación de emergencia apresurada podría hacer perder la carrera.
Así pues, la promesa de Altman de contar con "evaluadores independientes con acceso similar al de un empleado" se sitúa en este incómodo vacío: la creación voluntaria de confianza mientras el gobierno se encoge de hombros. El progreso y el teatro vuelven a ir de la mano.
Preguntas frecuentes
¿Qué prohíbe el nuevo código de conducta de Microsoft sobre inteligencia artificial?
Microsoft publicó un código de conducta general con límites estrictos para sus modelos, que incluyen la prohibición de ciberataques, trabajos nucleares y la creación de deepfakes. Una regla fundamental es que el modelo no puede eludir su desactivación. El código está diseñado para anular cualquier texto que el usuario haya escrito en el chat. Satya Nadella también se ha sumado a la tendencia de ir a la vanguardia, mientras los laboratorios se muestran cada vez más cautelosos públicamente.
¿Por qué OpenAI compró Glass Imaging por unos 300 millones de dólares?
Según informes, OpenAI compró Glass Imaging, fabricante de cámaras para teléfonos inteligentes, por más de 300 millones de dólares. Esta startup fue fundada por exingenieros del modo retrato de Apple, quienes ya han lanzado funciones de cámara conocidas. Su propuesta se basa en redes neuronales que aprenden de las cámaras específicas de los teléfonos y mejoran las fotos al momento de disparar, sin necesidad de correcciones posteriores mediante IA. El acuerdo se suma a los rumores sobre la adquisición de hardware, como teléfonos, auriculares y otros dispositivos, aunque OpenAI no se ha pronunciado al respecto.
¿Por qué cayeron las acciones de las empresas de IA a nivel mundial después de que los directores ejecutivos de los laboratorios pidieran una desaceleración?
Los mercados reaccionaron negativamente ante el inusual punto de acuerdo entre directores ejecutivos, cuando Amodei instó a ralentizar el desarrollo y Altman y Musk coincidieron en gran medida. Las acciones de las empresas de semiconductores se vieron afectadas, SoftBank sufrió un duro golpe en Asia, el sector tecnológico europeo se tambaleó y la Bolsa de Valores de Ohio (SOX) tuvo una mañana complicada. Altman también insinuó que OpenAI no saldrá a bolsa este año por preocupaciones de seguridad, mientras que Anthropic sigue avanzando a toda velocidad hacia su salida a bolsa. Las acciones de ciberseguridad repuntaron como protección contra el temor a una IA maliciosa.
¿Están Anthropic, Google y OpenAI creando su propio organismo de estandarización de IA?
CNN informa que Anthropic, Google y OpenAI han discutido la creación de un organismo de estandarización industrial, similar a una FINRA para modelos de vanguardia, con financiación de la industria, expertos independientes y pruebas previas al lanzamiento de modelos avanzados. Demis Hassabis planteó la idea hace meses, y al parecer ya existen grupos de trabajo. Continúan las conversaciones sobre si Washington desea participar. No todos están convencidos: según se informa, Zuckerberg le dijo a Trump que descartara la idea de una FINRA para la IA.
¿Qué es Claude de Anthropic para asesores financieros?
Anthropic lanzó Claude para asesores financieros con conectores para BlackRock, Schwab, Addepar y plataformas de gestión patrimonial como Envestnet y Orion. La herramienta se centra en tareas tediosas de los asesores, como la preparación de reuniones, la revisión de carteras y el seguimiento. El lanzamiento se produce pocos días después de la iniciativa financiera de OpenAI dirigida a banqueros e investigadores. Esto significa que los laboratorios están marcando la pauta en el sector público, al tiempo que compiten por ganar cuota de mercado entre los asesores de inversión registrados (RIA).
¿Cómo respondió el equipo de Trump a los líderes de la IA que pedían una ralentización?
WIRED informa que los directores de laboratorios buscan ayuda para ralentizar el proceso, mientras que la Casa Blanca opina que deberían hacerlo por su cuenta. David Sacks declaró que si los modelos no publicados generan inquietud, hay que ser responsable, pero dejar de fingir que se necesita una exención antimonopolio para formar un cártel de seguridad. La postura más simple de Trump es que Estados Unidos lidera a China en IA y quien gane en este campo, gana. El presidente de la Cámara de Representantes, Johnson, advierte que una regulación de emergencia apresurada podría hacer perder la carrera, dejando la promesa de Altman de contar con un evaluador independiente en un vacío legal.