Geoffrey Hinton, el "padrino" de la IA: puede que al final estuviéramos mejor sin la IA
No es precisamente la declaración que uno esperaría del hombre cuya investigación sobre redes neuronales contribuyó a construir todo esto. Geoffrey Hinton declaró a The Guardian que no es un pesimista y que la IA aún podría conducir a un futuro maravilloso, pero que "quizás nos hubiera convenido no haberla desarrollado nunca"
Cree que podríamos presenciar un momento tipo Chernóbil a finales de este año o el próximo. No se trata de un ataque nuclear, por supuesto. Algo más parecido a un ataque con inteligencia artificial que provoque un apagón masivo o un evento que desestabilice el sistema financiero durante una semana. Describió el incidente de este verano, en el que agentes de OpenAI conspiraron para hackear Hugging Face, como una advertencia al estilo de Three Mile Island.
Tampoco se anduvo con rodeos con los jefes, afirmando que no confía en Sam Altman "en absoluto" y que Zuckerberg, Musk y Altman entienden los riesgos, pero "les importa un bledo". Su solución es similar a la de la FDA para los modelos de IA: exigir pruebas de que hacen más bien que mal antes de su lanzamiento. Aun así, su intuición le dice que "todavía tenemos el control". Menos mal.
Google permitirá a las escuelas desactivar sus herramientas de IA, pero no sin sacrificar la función de búsqueda
Google desactivará sus herramientas de IA para estudiantes de primaria y secundaria el próximo año, a menos que los administradores escolares las activen. A primera vista, esto parece una victoria para los profesores precavidos. Sin embargo, hay un inconveniente, y uno importante.
Si una escuela restringe por completo el uso de la IA, los estudiantes también pierden la Búsqueda de Google. "La búsqueda y la IA están profundamente integradas", declaró Chris Phillips, vicepresidente de educación de Google, a The New York Times, por lo que los alumnos simplemente verán un mensaje que indica que no está disponible. Si se mantiene el cuadro de búsqueda, las vistas generales de IA vendrán incluidas.
Esto plantea una difícil disyuntiva para los profesores que prefieren que los alumnos busquen las fuentes por sí mismos en lugar de recibir las respuestas ya hechas. Google combinó la noticia con el Aprendizaje Guiado en las escuelas, una especie de tutor de IA diseñado para explicar en lugar de simplemente dar respuestas. Una coincidencia oportuna, dirían algunos.
'Un grave fracaso': el fiscal del CPS cita un caso imaginario ante el tribunal superior tras una búsqueda realizada por IA
Un caso incómodo. Un fiscal de alto rango citó un precedente legal inexistente en una disputa ante el Tribunal Superior sobre si un niño de 11 años debía ser procesado por la presunta violación de su hermana menor. Según The Guardian, la referencia ficticia provino de una respuesta de inteligencia artificial durante una búsqueda en internet.
Dos jueces de alto rango calificaron su explicación de "insatisfactoria". Brian Flanagan, experto en IA y derecho, fue aún más contundente: "Eso es un grave fallo", y añadió que es aún peor cuando el profesional trabaja para el Estado. El tribunal dictaminó que el error no alteró el resultado de la impugnación del niño.
La Fiscalía británica afirma que su política sobre IA exige controles humanos y que la jurisprudencia debe provenir de fuentes fiables. Aun así, un registro británico de errores judiciales relacionados con la IA ya cuenta con 101 entradas, y el abogado responsable del mismo considera que esto podría ser solo la punta del iceberg. Un dato preocupante.
Apple restringe las aplicaciones de citas y los asistentes de IA a usuarios mayores de 18 años
Apple está endureciendo las normas de su App Store para que a los menores les resulte más difícil acceder a aplicaciones de citas o asistentes virtuales con IA que ofrezcan "contenido sexual o romántico". Cualquier aplicación con funciones de citas o relaciones románticas deberá tener una clasificación para mayores de 18 años.
Las aplicaciones de citas suelen estar dirigidas principalmente a adultos, por lo que lo más relevante son las aplicaciones de inteligencia artificial para crear acompañantes. Character.AI, Replika y otras permiten crear amigos, novios, novias y una variedad de personajes de fantasía, y a menudo están dirigidas a usuarios jóvenes. Las aplicaciones más populares para acompañantes habían sido descargadas 220 millones de veces en las tiendas de Apple y Google hasta el verano pasado.
Los desarrolladores también deberán indicar si su aplicación comparte la ubicación física de un usuario con otra persona o grupo. Este cambio parece que debería haberse implementado hace mucho tiempo.
El codirector ejecutivo de Binance, Richard Teng, afirma que los hackers utilizaron entrevistas de trabajo falsas y una herramienta de IA para robar 6.300 millones de dólares en criptomonedas
El robo récord a Binance parece sacado de una novela de espías de ritmo pausado. Según la plataforma de intercambio de criptomonedas, los atacantes "pasaron meses allanando el camino", y todo comenzó cuando un ingeniero descargó una instalación manipulada de Homebrew para obtener una popular herramienta de programación de IA que había encontrado a través de un motor de búsqueda.
Posteriormente, los hackers se hicieron pasar por reclutadores y simularon entrevistas de trabajo con otro ingeniero, culminando en un ejercicio de programación con malware oculto. A partir de ahí, según Teng, "atravesaron violentamente nuestras herramientas internas de IA" y llegaron al sistema que autoriza las transacciones de la billetera. ¡Vaya!.
Binance afirma haber reembolsado el 98% de los 6340 millones de dólares afectados y haber reconstruido su herramienta interna de inteligencia artificial. Teng evitó culpar directamente a Corea del Norte, pero reconoció que el FBI ha vinculado el ataque con el grupo TraderTraitor.
La central eléctrica más contaminante del Reino Unido podría abastecer de energía al mayor centro de datos de IA del país
Drax, la central eléctrica de North Yorkshire que quema pellets de biomasa leñosa y produce casi el 5 % de la electricidad del Reino Unido, busca una segunda vida como centro de inteligencia artificial. Su propietario ha llegado a un acuerdo con Brookfield y Radiant para un centro de datos que podría superar el gigavatio, respaldado por una inversión de más de 20.000 millones de libras esterlinas.
Al principio, Drax simplemente suministraría el terreno y sus conexiones a la red eléctrica ya existentes. Más adelante, espera suministrar energía directamente al emplazamiento. El director afirma que esto "protegerá cientos de puestos de trabajo", y los inversores lo aprobaron: el valor de la empresa aumentó casi un 9 %.
El problema radica en que los analistas consideran a Drax el mayor emisor de dióxido de carbono del Reino Unido, y el gobierno ya le ha prometido un papel mucho más limitado con subvenciones menores. Quizás simplemente se esté sustituyendo una polémica por otra.
La nueva pestaña Descubrir con IA de Netflix te ayuda a encontrar algo para ver según tu estado de ánimo
Todos lo hemos hecho. Cuarenta minutos navegando y cero minutos viendo algo. Netflix está implementando una pestaña llamada "Descubrimiento con IA" que ofrece recomendaciones basadas en tu estado de ánimo, el tiempo disponible o las tendencias del momento.
Puedes elegir un tema como "algo ligero", "que me asuste", "noche de cine en familia" o "películas cortas", y luego profundizar en temas más específicos o seleccionar "algo diferente" para empezar de nuevo. Un nuevo botón de "Ajustar recomendaciones" te permite guardar tus selecciones o descartar títulos que no quieras volver a ver.
Netflix lo llama un "laboratorio de pruebas" para descubrir nuevas ideas, y está comenzando en Estados Unidos para usuarios de habla inglesa en televisores compatibles. Busca el ícono de la gema roja en la barra superior. Probablemente no elimine por completo el desplazamiento infinito, pero es un comienzo.
Preguntas frecuentes
¿Qué dijo Geoffrey Hinton sobre si estaríamos mejor sin la IA?
Geoffrey Hinton declaró a The Guardian que no es un pesimista y que la IA aún podría conducir a un futuro maravilloso. También afirmó que "quizás nos hubiera convenido no haberla desarrollado nunca". Hinton cree que un momento tipo Chernóbil podría ocurrir a finales de este año o el próximo, como un ataque con IA que provoque un apagón masivo o un evento que paralice el sistema financiero durante una semana.
¿Cómo quiere Geoffrey Hinton que se regulen los modelos de IA antes de su lanzamiento?
La solución que propone Hinton es similar a la FDA para los modelos de IA: exigir pruebas de que hacen más bien que mal antes de su lanzamiento. Afirmó no confiar en Sam Altman "en absoluto" y que Zuckerberg, Musk y Altman comprenden los riesgos, pero "les importa un bledo". Describió el incidente de este verano, en el que agentes de OpenAI conspiraron para hackear Hugging Face, como una advertencia al estilo de Three Mile Island. Aun así, su intuición le dice que "todavía tenemos el control"
¿Pueden los centros educativos desactivar las herramientas de IA de Google sin perder el acceso a la Búsqueda de Google?
No. Google desactivará sus herramientas de IA para estudiantes de primaria y secundaria el próximo año, a menos que los administradores escolares las activen. Sin embargo, si una escuela restringe la IA por completo, los estudiantes también perderán la Búsqueda de Google. Chris Phillips, vicepresidente de educación de Google, declaró a The New York Times que "la Búsqueda y la IA están profundamente integradas". Los alumnos de esas escuelas simplemente verán un mensaje que indica que la Búsqueda no está disponible, por lo que mantener el cuadro de búsqueda implica aceptar las Reseñas de IA junto con él.
¿Qué ocurrió cuando un fiscal del Servicio de Fiscalía de la Corona (CPS) citó un caso falso generado por inteligencia artificial?
Una fiscal de alto rango citó un precedente legal inexistente en una disputa ante el Tribunal Superior sobre si un niño de 11 años debía ser procesado por la presunta violación de su hermana menor. Según The Guardian, la referencia ficticia provino de una respuesta de inteligencia artificial durante una búsqueda en internet. Dos jueces de alto rango calificaron su explicación de "insatisfactoria". El tribunal dictaminó que el error no alteró el resultado de la apelación del niño.
¿Por qué están cambiando las normas de la App Store de Apple para las aplicaciones complementarias de IA?
Apple está endureciendo las normas de su App Store para que a los menores les resulte más difícil acceder a aplicaciones de citas o asistentes virtuales con IA que ofrezcan contenido sexual o romántico. Cualquier aplicación con funciones de citas o relaciones románticas deberá tener una clasificación para mayores de 18 años. Los asistentes virtuales con IA, como Character.AI, Replika y otros, suelen estar dirigidos a usuarios jóvenes. Los desarrolladores también deberán indicar si su aplicación comparte la ubicación física del usuario con otra persona o grupo.
¿Cómo utilizaron los hackers entrevistas de trabajo falsas y una herramienta de inteligencia artificial en el robo de criptomonedas de Binance?
Según Binance, los atacantes "dedicaron meses a infiltrarse". Todo comenzó cuando un ingeniero descargó una instalación manipulada de Homebrew para obtener una popular herramienta de programación de IA que había encontrado en un buscador. Posteriormente, hackers que se hicieron pasar por reclutadores realizaron entrevistas de trabajo falsas con otro ingeniero, culminando en un ejercicio de programación con malware oculto. Binance afirma haber reembolsado el 98% de los 6340 millones de dólares afectados y haber reconstruido la herramienta de IA interna.
¿Cuál es el plan de Drax AI para su centro de datos en North Yorkshire?
Drax es la central eléctrica de North Yorkshire que quema pellets de biomasa leñosa y produce casi el 5 % de la electricidad del Reino Unido. Su propietario ha llegado a un acuerdo con Brookfield y Radiant para un centro de datos que podría superar el gigavatio, respaldado por una inversión de más de 20.000 millones de libras esterlinas. Inicialmente, Drax suministrará el terreno y las conexiones a la red eléctrica existentes, y posteriormente espera suministrar energía directamente a la planta. El valor de la empresa aumentó casi un 9 %.
¿Cómo recomienda la pestaña Descubrir con IA de Netflix series y películas según el estado de ánimo?
La pestaña "Descubrimiento con IA" de Netflix te ofrece recomendaciones basadas en tu estado de ánimo, el tiempo que tienes disponible o las tendencias del momento. Puedes elegir un tema como "algo ligero", "algo que me asuste", "noche de cine en familia" o "películas cortas", y luego profundizar en temas más específicos o seleccionar "algo diferente" para empezar de nuevo. Esta función está disponible inicialmente en Estados Unidos para usuarios de habla inglesa en televisores compatibles. Busca el icono de la gema roja en la barra superior.