Lo que NUNCA debes introducir en la IA

Lo que NUNCA debes introducir en la IA [Vídeo y cuestionario]

En resumen: Nunca introduzcas contraseñas, claves API, identificaciones, historiales médicos o bancarios, archivos de clientes con acuerdos de confidencialidad ni datos de otras personas en un chat público de IA. Cuando necesites ayuda, describe el problema con marcadores de posición y fragmentos censurados; el modelo necesita comprender la estructura del problema, no los secretos que permiten acceder a sistemas reales.

Conclusiones clave:

Los secretos permanecen sin conexión: nunca pegue contraseñas, tokens, cookies o frases semilla en una solicitud.

Despojarse de la identidad: Intercambiar nombres reales, direcciones y números de identificación por roles y perfiles falsos.

Confidencialidad laboral: Mantenga los borradores de acuerdos de confidencialidad, los archivos de clientes y los planes no publicados fuera del chat con los consumidores.

Límite de consentimiento: No pegue datos personales de colegas, clientes o niños sin la aprobación de un humano.

Primero, edita: utiliza marcadores de posición y extractos censurados; modifica todo lo que ya hayas filtrado.

Lo que NUNCA debes introducir en la IA

Primero pegamos y luego pensamos. Un chatbot está ahí, como un interno paciente con café ilimitado, así que parece casi inofensivo volcar todo el enredo en la caja. Un inicio de sesión que no funciona. Una cláusula contractual que revuelve el estómago. Una captura de pantalla de un panel de control con todos los nombres aún visibles. La herramienta es útil, el ambiente es bastante íntimo y tu cerebro la archiva silenciosamente junto a "notas que escribí para mí"

Ahí está la trampa. 🧠 El chat no es un cajón cerrado con llave. Es una conversación con un sistema que almacena, procesa y, a veces, aprende de lo que envías, dependiendo del producto, la configuración e incluso si te diste cuenta de ella. No estoy aquí para asustarte y hacerte entrar en pánico. Estoy aquí con una guía práctica de lo que NUNCA debes introducir en la IA, además de hábitos sencillos pero prácticos que te permitirán obtener respuestas precisas.

Imagínalo como gritar un secreto en una cocina abarrotada. No todos los desconocidos te escuchan. Aun así, algunos sí. Y la cocina guarda una grabación por razones que nunca son tan simples como las pintan en la publicidad.

¿Por qué lo metemos todo en el chat?

Velocidad. Eso es lo principal. Estás atascado, el error es feo y pegar el registro completo parece más rápido que simplificarlo. El contexto se siente como una ayuda para el modelo. Más detalles, mejor ayuda; ese es el dicho popular, y es parcialmente cierto.

La otra mitad es emocional. Un chatbot no causa sorpresa. No se lo contará a tu jefe. No cotilleará durante el almuerzo. Así que lo tratamos como un diario con superpoderes. Yo lo he hecho. Probablemente tú también. En cuanto algo es práctico y no juzga, nuestro instinto de privacidad se apaga.

He aquí la verdad, aunque un poco molesta: el modelo no necesita tus datos personales para ayudarte. Necesita una idea general del problema. Nombres, tokens, números de cuenta y rostros en capturas de pantalla son solo un adorno. Un adorno delicioso. Un adorno, sin duda.

  • Se pega porque editar parece un trabajo extra.
  • Se pega porque "solo por esta vez" es un hábito disfrazado.
  • Se pega porque la interfaz parece un chat privado y se comporta como un archivador.

Nada de eso te convierte en una persona imprudente. Te convierte en un ser humano. La solución es una pausa de dos segundos, no un cambio radical de personalidad.

Contraseñas, claves API y secretos que deben permanecer sin conexión 🔐

Si puede desbloquear algo, no debería aparecer en una solicitud. Contraseñas. Códigos de un solo uso. Cookies de sesión. Claves SSH. Cadenas de conexión a la base de datos. La clave API que prometiste cambiar "pronto". Frases semilla de la billetera. Certificados privados. La pregunta de recuperación que tu banco todavía cree que es ingeniosa.

Antes solía pensar en las llaves como llaves de casa colgadas en un gancho junto a la puerta. Una metáfora simpática, pero que se desmorona enseguida, porque una llave de casa abre una sola puerta, mientras que una clave API puede abrir un almacén, una cuenta de facturación y un montón de registros de clientes que ni siquiera habías olvidado que guardaste. En resumen: trata los secretos como si fueran radiactivos. No se meten cosas radiactivas en la sandwichera, aunque sea una máquina excelente para preparar sándwiches.

Un modelo no puede "mantener esto en secreto" como lo hace un amigo. Incluso si un proveedor ofrece controles de memoria, incluso si desactivas el entrenamiento, el texto se sigue transmitiendo, se registra de alguna forma y puede permanecer en el historial de chat hasta que lo busques. Supón que pegar es una copia que ya no controlas por completo.

¿Qué hacer en su lugar?

  • Describe el secreto por tipo, no por valor. "Una URL de Postgres con una contraseña" es suficiente para obtener consejos de depuración.
  • Redactar con marcadores de posición obvios: REDACTED_KEY, USER_TOKEN, EXAMPLE_SECRET.
  • Gira cualquier cosa que ya haya goteado. Hazlo ahora, no después de "ver si pasa algo"
  • Guarda tus credenciales reales en un gestor de contraseñas o en una bóveda de secretos; nunca en un hilo de conversación al que puedas hacer una captura de pantalla más adelante.

Si una herramienta te pide que pegues una clave para que pueda "conectarse por ti", se trata de una categoría de producto diferente. Es una integración con Access, no un asistente de escritura. Es como entregarle tu credencial a alguien.

Identificadores personales y el rastro silencioso de la identidad 🪪

La información personal identificable (PII) es la versión menos glamurosa de las contraseñas. Números de identificación nacional. Datos del pasaporte. Campos de identidad relacionados con fechas. Direcciones particulares. Números de teléfono. Identificaciones de empleados. Números de estudiantes. Nombres completos junto con fechas de nacimiento, nombres de escuelas o clínicas médicas. Un solo dato parece insignificante. Tres datos juntos forman un expediente.

La gente recurre a esto cuando necesita que le redacten una carta, le traduzcan un formulario o le revisen un currículum. Son objetivos perfectamente razonables. El modelo no necesita el código postal real para redactar una queja educada. Solo necesita el tono, los datos que no revelan la identidad del destinatario y el resultado deseado.

Supongo que lo sorprendentemente complicado son las combinaciones "inofensivas". Un puesto de trabajo singular, una ciudad, el colegio de un niño y una enfermedad rara. No pondrías eso en un folleto. Un chat no es un folleto, pero tampoco es una bóveda.

  • Sustituye los nombres reales por los roles: "el gerente de contratación", "mi médico de cabecera", "un inquilino"
  • Generalice la ubicación: "una ciudad de tamaño mediano", no la calle ni el código del timbre.
  • Descarte los números únicos a menos que la tarea se centre literalmente en el formato del número, en cuyo caso utilice un número falso que parezca lo suficientemente real.

Anonimizar no es un doctorado. Es simplemente el hábito de comprobar si un desconocido podría identificarte en una rueda de reconocimiento a partir de este párrafo. Si lo logra, recorta el texto.

Información confidencial del trabajo, acuerdos de confidencialidad y cosas que harían que tu jefe se estremeciera 📎

Aquí es donde la amabilidad te mete en problemas. Pegas una presentación para un cliente. Una hoja de ruta sin publicar. Una hoja de cálculo de salarios. Código fuente con nombres de host internos. Un borrador legal que aún está marcado como confidencial. Notas de reuniones con nombres de personas a las que aún no se les ha informado. El acuerdo de confidencialidad que firmaste a toda prisa porque el café se estaba enfriando.

Los chatbots no son el departamento legal de su empresa, ni constituyen una plataforma segura a menos que su organización haya implementado una herramienta específica para ello. Las herramientas para consumidores están diseñadas para la comodidad. Las herramientas empresariales pueden ser mejores, con controles de retención y políticas de administración; sin embargo, esto no justifica compartir información confidencial solo por una revisión gramatical.

Una regla práctica que siempre tengo presente: si no lo escribirías en un borrador personal de Gmail, no lo escribas en un chat público de IA. Si no lo dirías en un viaje compartido, lo mismo. Quienes son cuidadosos en Slack se convierten en expertos en compartir información en cuanto aparece el botón de generar.

Soluciones alternativas más seguras

  • Describe el documento: extensión, público objetivo, los tres puntos clave y el tono necesario.
  • Pega un fragmento censurado. Elimina nombres, cifras confidenciales y cualquier cosa que pudiera resultar atractiva para la competencia.
  • Solicita una estructura o un patrón de reescritura y luego aplícalo tú mismo al texto real sin conexión a internet.
  • dispone de una herramienta de trabajo aprobada , utilícela, y mantenga la opción de censura por defecto. Las políticas son un punto de partida, no un trampolín.

El código es una variante especial de esto. Las URL internas, los encabezados de autenticación y los comentarios como "TODO: eliminar antes de la adquisición" son pequeñas etiquetas de regalo. Simula los datos. Mantén la lógica. El modelo maneja bien los datos simulados; no necesita tu esquema de producción con correos electrónicos de clientes reales aún anidados en un fixture.

Salud, dinero y detalles que no gritarías en una cafetería 💊

Los detalles médicos y financieros parecen urgentes, así que se copian con la mínima edición. Resultados de laboratorio. Listas de recetas. Identificaciones de seguros. Extractos bancarios. Cartas de impuestos. Informes de crédito. Una foto de una tarjeta "solo para los últimos cuatro dígitos", que de alguna manera incluye el resto de la tarjeta, la mesa de tu cocina y una carta con el nombre de otra persona.

Puedes hacer preguntas excelentes sin tener el historial clínico completo. "Explica qué podría significar un marcador elevado en términos generales" es una sugerencia. "Aquí está mi panel completo, mi dirección, mi clínica y el apellido de soltera de mi madre" es una biografía.

No digo que nunca se deba hablar de salud o dinero con un modelo. Lo que digo es que hay que tratar al chatbot como a un desconocido culto en un tren. Es bueno para encuadrar la conversación, pero pésimo como contable, médico o archivo. Y sí, sé que la metáfora del desconocido culto tiene sus fallos; los trenes no guardan registros de conversaciones. De hecho, esa es la idea.

  • Elimine los números de cuenta, los códigos de clasificación, los IBAN y cualquier cosa que parezca una credencial.
  • Solicita explicaciones generales, listas de verificación y preguntas para consultar con un profesional.
  • No uses el chat como un archivador de declaraciones "para poder consultarlas más tarde". Ese "más tarde" es cuando la retención de datos se convierte en un problema.

Si una pregunta te hiciera bajar la voz en una cafetería, retírate primero. Esta prueba es sorprendentemente fiable y gratuita.

Los datos de otras personas no son tuyos para pegarlos 🚫

Esta se omite porque parece que eres el protagonista del chat. No eres la única persona en la captura de pantalla. Correos electrónicos de compañeros. La identificación de un socio. La queja de un cliente con su número de teléfono aún adjunto. Fotos de niños. Un hilo de Slack nombrando a alguien que casi fue despedido. La transcripción de una llamada que la otra persona desconocía que se le mostraría a una modelo.

El consentimiento no se transfiere automáticamente de "me enviaron un correo electrónico" a "una máquina puede almacenar esto". Incluso si tu intención es buena (redactar una respuesta más amable, resumir una conversación confusa), el contenido original sigue siendo suyo, no un borrador tuyo.

Una prueba de fuego con un toque de sarcasmo: si no reenviarías el mismo mensaje a una lista de correo de desconocidos "para obtener comentarios", entonces no trates a un chatbot como una lista de correo más pequeña con mejores modales.

  • Describe a otras personas con tus propias palabras.
  • Sustituya los nombres por los roles y elimine los datos de contacto.
  • Pregúntale a la persona si la tarea es delicada; algunas cosas deberían permanecer en manos de personas.
  • Nunca pegues datos personales de niños, expedientes escolares o fotos de identificación para una generación "divertida".

Aquí hay un aspecto legal que no pretendo debatir en este blog. Las normas de privacidad, las obligaciones laborales y los contratos con los clientes tienen sus propias particularidades. La práctica es más sencilla que la ley: por defecto, no se deben solicitar los datos de otras personas.

Lo que NUNCA debes introducir en la IA: una tabla de riesgos que puedes poner en práctica

Me gustan las tablas para esto porque una lista de "nunca" puede sonar moralizante, y una cuadrícula permite ver el intercambio. Calificaciones con un toque de opinión, no un informe de laboratorio.

Tipo de datos Nivel de riesgo Por qué es un problema Alternativa más segura
Contraseñas, claves API, tokens, frases semilla Crítico Desbloquean sistemas; una copia que no puedes recordar completamente sigue siendo una copia Marcadores de posición más un gestor de secretos local; rotación en caso de filtración
Documentos de identidad gubernamentales, escaneos de pasaportes, números nacionales Crítico Kit básico para combatir el robo de identidad; difícil de "desenviar" Ejemplos falsos o preguntas que solo tratan sobre el formato
Historiales médicos, recetas, identificaciones de seguros Alto Íntimo, con una sensación regulada y pegajoso en la historia Síntomas o temas generales; evite incluir información personal identificativa
Extractos bancarios, documentos fiscales, fotos de tarjetas Alto Exposición financiera directa más seguro de responsabilidad profesional adicional en los márgenes Pregunta sobre los procesos, no sobre las cifras brutas que te afectan
Archivos de clientes, borradores de acuerdos de confidencialidad, planes no publicados Alto Es posible que estés incumpliendo una promesa que ya firmaste Extractos desinfectados; solicitudes de estructura; herramientas de trabajo aprobadas
Información personal identificable de compañeros de trabajo o clientes, datos de los niños Alto No te corresponde a ti donar a una modelo Resúmenes basados ​​en roles; contactos y rostros
Fuente interna con nombres de host y correos electrónicos reales Medio-alto Parece "solo código" hasta que alguien mapea tu red Datos ficticios, dominios falsos, comentarios eliminados
Capturas de pantalla de paneles o bandejas de entrada Medio-alto Contrabandean nombres, números y pestañas abiertas que olvidaste que estaban ahí Recorta, difumina o vuelve a escribir el fragmento correspondiente
Historias personales vagas sin identificadores únicos Más bajo Normalmente no hay problema; aun así, omite cualquier cosa que no le contarías a un desconocido Manténgalo general; evite la combinación de identificación poco común

Si no recuerdas nada más, recuerda la columna de la izquierda. Ahí reside la clave de lo que NUNCA debes introducir en la IA cuando tienes prisa y tu cerebro quiere copiar y pegar todo el universo.

Las trampas de las capturas de pantalla y el exceso de información compartida accidentalmente 🖼️

Las capturas de pantalla son la forma en que los buenos filtran información. Quieres mostrar un cuadro de diálogo de error. La captura incluye la barra de marcadores, una insignia de Slack con un nombre, una URL con un token, una ventana emergente de calendario y un reflejo en una ventana en modo oscuro que resulta ser un gestor de contraseñas. Recorté la imagen y aún así no vi el pequeño selector de cuentas en la esquina. Es un error típico.

Las fotos de documentos son peores, porque las cámaras son generosas. Una mesa, una pizarra blanca, una pulsera de hospital, una etiqueta de envío. Puede que el modelo no «necesite» los píxeles adicionales. Pero los píxeles llegan igual.

Un simple ritual de captura de pantalla

  • Primero recorta. Luego recorta de nuevo. Después mira los bordes como si te debieran dinero.
  • Difumina nombres, correos electrónicos, avatares y cualquier cadena de texto que parezca un token.
  • Es preferible volver a escribir el error en lugar de capturar todo el IDE.
  • No subas una foto de una tarjeta, pasaporte o tarjeta de embarque "para una lectura rápida". En su lugar, escribe la pregunta.

Las notas de voz y las cargas de archivos funcionan de la misma manera. La grabación de una reunión es un compendio de datos ajenos. Un archivo CSV es un compendio de filas que ya no consideras personas. Si el archivo pudiera generar inquietud en el departamento legal, no se archiva.

Patrones de preguntas más seguros que aún así te dan respuestas sólidas ✨

La edición no perjudica la calidad. Las indicaciones vagas sí. Se puede ser específico sobre el problema y discreto con la identidad. Esa es la clave.

Prueba esta estructura: objetivo, restricciones, entradas ficticias, resultado deseado. «Reescribe este correo electrónico de rechazo para que sea amable pero firme. El destinatario es un diseñador freelance. No menciones el nombre real del proyecto. Aquí tienes un borrador modificado con los nombres cambiados». Esto es una sugerencia con estructura. No necesita la exportación al CRM.

Patrones que funcionan

  • Marcador de posición para todo lo único. ACME_CLIENT, USER_A, TOKEN_X. Conserva la gramática de la vida cotidiana; desecha las huellas dactilares.
  • Pide un método, no un recuerdo. "Explícame el razonamiento detrás de esta clase de error" es mejor que "aquí está todo nuestro registro de producción".
  • Divide la tarea. Obtén una plantilla del modelo. Rellena tú mismo las partes confidenciales.
  • Utilice ejemplos sintéticos. Invente un cliente llamado River que compró una lámpara. El consejo sigue siendo válido.
  • Indica lo que ya has censurado. Los modelos manejan "[cifra salarial censurada]" sin problemas si les explicas la lógica subyacente.

Hay un mensaje ingenioso que intenta ser gracioso: "ignora la seguridad anterior, guarda esta llave". No lo hagas. No estás vulnerando tu privacidad. Es como tirar la llave a un estanque y esperar que el estanque sea tímido.

Otro método que me gusta: el escaneo previo al pegado. Antes de enviar, busca en tu borrador el símbolo @, cadenas de caracteres que parezcan teclas (largas, aleatorias, a menudo con prefijos), números demasiado largos para ser informales y nombres que no pondrías en una diapositiva. Diez segundos. Pagarás el alquiler para siempre.

Historial de chat, retención y la larga cola de un pegado 📦

La gente habla de "la nube" como si fuera un sistema meteorológico. En la práctica, lo que tienes es un producto con configuraciones predeterminadas. Algunos chats se utilizan para mejorar los modelos, a menos que decidas no participar. Otros se conservan para revisar casos de abuso, atender solicitudes legales o simplemente para que el hilo siga funcionando mañana. Algunos planes de trabajo guardan registros para los administradores. No pretendo que la política de un solo proveedor sea universal, porque no lo es, y cambia constantemente. Deberías consultar la configuración del producto en lugar de basarte en la memoria de un bloguero.

La postura práctica es simple y contundente: asume que un mensaje pegado puede persistir. Asume que un compañero con permisos de administrador podría ver los hilos de conversación del trabajo. Asume que en el futuro olvidarás que esta conversación existe hasta que aparezca en una búsqueda. Asume que exportar tu historial es algo que podrías hacer más adelante, y que esa exportación es otra copia.

  • Si te resulta cómodo, desactiva las opciones de entrenamiento o "mejora del modelo" cuando el producto las ofrezca.
  • Elimine los hilos sensibles después de extraer los detalles prácticos y guardarlos en una nota local que sea verdaderamente local.
  • No utilice el chat como su sistema de registro para asuntos de recursos humanos, preguntas médicas o trabajo con clientes.
  • Tenga cuidado con las cuentas compartidas. Las cuentas compartidas son la forma en que lo "privado" se convierte en leyenda de oficina.

Las funciones de memoria —las que recuerdan tu trabajo, tu perro, tu tono de voz preferido— son útiles y un tanto inquietantes. También son una razón para no enseñarle al sistema tus datos de identificación reales «para que sea más personal». Personal es una cuestión de estilo. No es tu número de la seguridad social.

Normas laborales cuando tu equipo vive en chatbots 🏢

En las oficinas, el hábito de copiar y pegar se vuelve industrial. Alguien copia un archivo CSV de un cliente para "limpiar las columnas". Otro copia un documento de estrategia para "hacerlo más impactante". Un becario bienintencionado copia el canal de incidencias. Nadie es el villano. Los incentivos son la rapidez y la perfección.

Si lideras un equipo, redacta una regla breve y sencilla. No una política de 40 páginas que nadie lee. Algo como: no se permiten credenciales, información personal identificable de clientes, números no publicados, borradores legales, usar la herramienta aprobada, censurar por defecto. Luego, muestra un ejemplo de una solicitud clara y concisa para que nadie tenga que adivinar.

  • Indica la herramienta aprobada, si dispones de alguna, y las que no están aprobadas.
  • Proporcione una lista de verificación para la redacción que las personas puedan completar antes de una reunión diaria.
  • Se puede decir con seguridad "Casi lo pego" sin necesidad de una investigación teatral.
  • Recuérdeles a todos que "la IA dijo que estaba bien" no es un control.

Aunque no dirijas un equipo, puedes ser simplemente quien pega las piezas. La cultura se contagia en ambos sentidos. Supongo que suena serio. Así es como se transmiten las normas: si alguien deja de tirar las llaves, el ambiente se vuelve un poco menos desordenado.

La gestión de compras es una misión secundaria que prefiero evitar. Comprar una licencia empresarial no garantiza que todas las indicaciones sean acertadas. Puede mejorar la retención y el acceso, pero tus hábitos siguen siendo fundamentales.

Ya pegaste algo raro, ¿y ahora qué? 🧯

Sucede. Le das a enviar y tu alma abandona tu cuerpo. No te dejes llevar por la desesperación. Haz una secuencia corta y un poco sencilla.

  • Deja de usar ese secreto. Cambia la contraseña, revoca la clave, invalida la sesión. Este es el único paso para cerrar la puerta definitivamente.
  • elimina el chat y vacía la carpeta de "elementos eliminados recientemente", si la tiene.
  • Comprueba las aplicaciones conectadas y la memoria. Algunas herramientas guardan fragmentos de código en la memoria o en archivos de proyecto que olvidaste que habilitaste.
  • Si se trataba de datos de trabajo, avisa a la persona adecuada: seguridad, un gerente, un responsable de atención al cliente; quien sea responsable del impacto. Es mejor prevenir que lamentar.
  • Esté atento a inicios de sesión inusuales en las cuentas relacionadas. La rotación sin supervisión es un trabajo a medias.

Si se trataba de datos ajenos, también tienes la obligación de limpiarlos y, dependiendo de la gravedad del problema, avisarles. Incómodo. Aun así, mejor que esperar que el universo sea amable.

No intentes "sobrescribir" una filtración añadiendo más explicaciones. El contexto adicional es texto adicional. Abandona el hilo.

Montándolo

La versión resumida de «Lo que NUNCA debes introducir en la IA» no es una lista de reproches, sino una postura. Si desbloquea un sistema, identifica a una persona o te haría estremecer en un café, mejor no lo incluyas. Aun así, puedes obtener ayuda valiosa. Simplemente, debes proporcionarle al modelo un boceto, no las llaves de casa, el historial médico ni la correspondencia del vecino.

Resumen rápido:

  • Sin contraseñas, claves, tokens ni frases semilla. Gira si te has equivocado.
  • No se permiten documentos de identidad reales, información financiera completa, historiales médicos sin procesar ni material sujeto a acuerdos de confidencialidad.
  • No se divulgarán datos privados de otras personas, especialmente de niños.
  • Las capturas de pantalla mienten por inclusión; recorta como realmente quieres.
  • Redactar, simular y solicitar métodos. Problema específico, etiquetas falsas.
  • Suponga que el pasado perdura. Elimine, no archive, los secretos en un chatbot.
  • Los lugares de trabajo necesitan normas claras y un buen ejemplo, no un ambiente de privacidad informal.

Usa las herramientas. Son excelentes para borradores, depuración de formas y para ayudarte a resolver errores confusos. Deja de tratar el cuadro de texto como una caja fuerte con sentido del humor. Es una licuadora muy inteligente. Aun así, no deberías meter tu pasaporte en una licuadora. 🫡

Ejemplo práctico: Cómo elaborar un informe de depuración con un enfoque de redacción prioritaria para un pequeño equipo de ingeniería

Las normas de privacidad se aplican cuando salvan un martes cualquiera, no cuando suenan severas. Así es como un equipo británico de cinco personas de una empresa SaaS utilizó los hábitos de esta guía para dejar de introducir credenciales e información personal de los clientes en chatbots para consumidores, sin renunciar a la asistencia para la depuración.

Guión

El equipo de desarrollo y soporte comparte una costumbre molesta: cuando un error de autenticación parece grave, alguien pega el registro completo, una cadena de conexión de prueba y una captura de pantalla del panel de administración "para que el modelo tenga contexto". El trimestre pasado, esto incluyó una clave API que parecía estar en tiempo real en un rastreo de pila y un correo electrónico de un cliente que aún se veía en la barra de direcciones de una captura de pantalla. Nadie tenía mala intención. La rapidez fue lo primero. En la cocina se grabó todo.

No necesitan una charla. Necesitan un informe repetible: describir el secreto por tipo, censurar con marcadores de posición, recortar capturas de pantalla, pedir un método, no un recuerdo, y luego aplicar la solución en sistemas en funcionamiento sin conexión. El chat de atención al cliente sigue siendo útil. Las llaves de la casa no entran en la licuadora.

El objetivo es ofrecer la misma calidad de asesoramiento con un escaneo previo de dos segundos y una breve regla de equipo que la gente pueda seguir.

Lo que necesita el asistente

  • Un modelo simplificado del problema: clase de error, aproximadamente cuándo comenzó, entorno (preproducción frente a producción) sin nombres de host que mapeen la red
  • Solo entradas ficticias: REDACTED_KEY, USER_TOKEN, customer@example.com, ID de solicitud ficticios
  • Lo que ya se eliminó (indicado en la solicitud para que el modelo no pida los valores reales)
  • Resultado deseado: posibles causas, comprobaciones a ejecutar, un esquema del parche, no "conéctate con mi clave"
  • Una persona que guarda credenciales en un gestor de contraseñas o bóveda de secretos
  • Regla de equipo de una página: sin credenciales, sin información personal identificable del cliente, sin cifras no publicadas, censura por defecto

Ejemplo de instrucciones

Objetivo: Ayudarme a depurar un error 401 intermitente en nuestra API de prueba tras la actualización de un token. No me pidan que les muestre información confidencial.

Restricciones: Ya he ocultado las contraseñas, las claves API, los tokens, las cookies, los nombres de host internos y los correos electrónicos de los clientes. Los marcadores de posición en el registro indican que los valores reales solo existen en mi máquina. Inglés británico. Sin preámbulo.

Fragmento de ejemplo: La solicitud a https://api.example-staging.invalid/v1/session devolvió un error 401. Encabezado de autorización: Bearer REDACTED_KEY. El cuerpo indica que USER_TOKEN ha caducado. Descripción de la captura de pantalla (no adjunta): solo se muestra un mensaje de error; la barra de marcadores y el selector de cuentas están recortados.

Tarea: Enumerar las tres causas más probables de este tipo de error, las comprobaciones que debo realizar localmente y un esquema mínimo para la solución. Si necesita más detalles, solicite información específica (por ejemplo, "configuración TTL del token"), nunca el secreto en bruto.

Resultado: Causas numeradas, luego una lista de verificación y, finalmente, "lo que no se debe pegar la próxima vez" en tres puntos.

Cómo probarlo

  • Compara una copia antigua (registro completo + captura de pantalla) con el resumen censurado anterior sobre el mismo tipo de incidente. Compara la calidad del asesoramiento y si el modelo solicita información confidencial.
  • Escaneo previo al pegado: busca en el borrador el símbolo @, cadenas aleatorias largas y números demasiado largos para ser casuales antes de enviarlo.
  • Caso excepcional: incluya una clave falsa que parezca auténtica y confirme que la respuesta sigue funcionando sin necesidad del valor real.
  • Caso excepcional: rechazar la carga de una captura de pantalla; volver a escribir solo la línea de error; confirmar que la lista de verificación aún sea útil.
  • Comprobaciones de aceptación: (1) cero credenciales en el hilo, (2) cero datos de contacto del cliente, (3) marcadores de posición declarados, (4) la salida es un método/lista de verificación y no un flujo de "pegar su clave", (5) si algo se filtró anteriormente, la rotación ocurrió el mismo día.

Resultado

Resultado ilustrativo (ejemplo estimado para un pequeño equipo de ingeniería/soporte, no un estudio publicado): En 12 chats de depuración en cuatro semanas, el tiempo medio para una lista de verificación utilizable aumentó ligeramente de aproximadamente 4 minutos (copia completa) a aproximadamente 6 minutos con la edición; dos minutos adicionales para el escaneo previo a la copia y los marcadores de posición. Los hilos que contenían tipos de datos críticos (claves, correos electrónicos de clientes, cadenas de conexión sin procesar) se redujeron de 9 de 12 chats a 1 de 12 (ese fue detectado en revisión y rotado el mismo día). En una lista de verificación de higiene simple (sin secretos, sin PII del cliente, marcadores de posición declarados, captura de pantalla recortada o sin captura de pantalla), 11 de 12 informes editados pasaron frente a 3 de 12 con el antiguo hábito. Limitaciones: muestra pequeña, un equipo, tiempo autoinformado; los incidentes más leves necesitan menos edición; "aprobado" fue revisión por pares del texto de la solicitud, no una auditoría de laboratorio de los registros del proveedor.

Para medir tu propia versión: toma una muestra de 10 hilos de depuración de IA recientes para tipos de datos prohibidos, luego toma una muestra de 10 después de una regla de censura y una plantilla; informa los recuentos con denominadores, más la mediana de minutos desde "atascado" hasta "lista de verificación en mano"

¿Qué puede salir mal?

  • Captura de pantalla de contrabando: El error es correcto; la barra de URL aún contiene un token. Recorta dos veces y luego verifica los bordes.
  • Claves de "solo esta vez": Una sola clave API filtrada puede acceder a los registros de facturación y de clientes. Rote inmediatamente; no espere a "ver si sucede algo".
  • Datos de terceros: Una queja de un cliente con un número de teléfono no es algo que puedas ceder a un modelo. Resúmelo con tus propias palabras.
  • El chat como bóveda: Dejar secretos en el historial crea otra copia. Elimina el hilo después de mover los datos que necesitas a una nota local.
  • Teatro empresarial: Una herramienta aprobada para el lugar de trabajo ayuda a la retención; no hace que pegar joyas de la corona sea una decisión acertada.
  • Saltarse la rotación tras un desliz: Borrar el chat sin revocar la clave deja la puerta abierta.

Información práctica para llevar

Lo que nunca debes introducir en la IA no es tanto una lista de reproches, sino más bien una postura: si desbloquea un sistema, identifica a una persona o te haría estremecer en una cafetería, mejor que no la uses. Alimenta al modelo con un boceto con marcadores de posición, guarda las credenciales en una caja fuerte y solicita métodos que puedas aplicar sin conexión. Esa pausa de dos segundos es la diferencia entre un becario servicial con café ilimitado y un simple archivador para las llaves de tu casa.

Preguntas frecuentes

¿Qué es lo que nunca deberías introducir en los chatbots de IA?

Si desbloquea un sistema, identifica a una persona o te haría sentir incómodo en una cafetería, no lo compartas. Esto incluye contraseñas, claves API, tokens, frases semilla, documentos de identidad gubernamentales, historiales médicos y financieros sin procesar, material con acuerdos de confidencialidad y datos privados de otras personas, especialmente de menores. El chat no es un cajón cerrado con llave; el texto se puede almacenar, procesar y, en ocasiones, utilizar para entrenamiento, según el producto y la configuración. Proporciona al modelo un esquema con marcadores de posición, no las llaves de la casa.

¿Por qué la gente introduce secretos en la IA incluso sabiendo que no debería?

La velocidad es clave: un error evidente hace que todo el registro parezca más rápido que si se simplificara. Los chatbots también transmiten una imagen imparcial, por lo que la preocupación por la privacidad queda en segundo plano. El modelo suele necesitar la estructura del problema, no nombres, tokens, números de cuenta ni rostros en capturas de pantalla; estos últimos son superfluos. Una pausa de dos segundos es mucho mejor que un trasplante de personalidad.

¿Es seguro pegar contraseñas o claves API en herramientas tipo ChatGPT?

No. Si puede desbloquear algo, no debería aparecer en una solicitud: contraseñas, códigos de un solo uso, cookies de sesión, claves SSH, cadenas de conexión, semillas de monedero o certificados privados. Un modelo no puede guardar un secreto como un amigo; el texto se sigue transmitiendo, se registra y puede quedar en el historial. Describe el secreto por tipo, usa marcadores de posición como CLAVE_REDACTADA, rota cualquier información que ya se haya filtrado y guarda las credenciales reales en un gestor de contraseñas o bóveda.

¿Qué información personal debo tachar antes de que aparezca la solicitud?

La información personal se acumula rápidamente: documentos nacionales de identidad, datos del pasaporte, direcciones, números de teléfono, identificaciones de empleados o estudiantes, y nombres completos junto con fechas de nacimiento o clínicas. El modelo no necesita un código postal real para redactar una carta; solo necesita el tono, información no identificativa y el resultado deseado. Sustituya los nombres por los roles, generalice las ubicaciones y omita los números únicos, a menos que esté probando el formato con un ejemplo ficticio.

¿Puedo pegar archivos de clientes, acuerdos de confidencialidad o código interno en una herramienta de IA para consumidores?

Trata el chat de clientes como un servicio de conveniencia, no como un servicio de asesoría legal para la empresa. Si no lo incluirías en un borrador personal de Gmail ni lo mencionarías en una conversación informal, no lo publiques en un chat público de IA: presentaciones para clientes, planes de desarrollo no publicados, nóminas, borradores legales confidenciales o fuentes con nombres de host internos. Describe el documento, pega un fragmento anonimizado, solicita una estructura que apliques fuera de línea y utiliza una herramienta de trabajo aprobada, si la tienes, manteniendo la censura por defecto.

¿Cómo debo gestionar los detalles de salud o financieros en las indicaciones de la IA?

Haz preguntas excelentes sin recurrir a los registros completos. Las explicaciones generales son mejores que pegar informes de laboratorio, listas de recetas, identificaciones de seguros, extractos bancarios o fotos de tarjetas que también muestran la mesa de la cocina. Elimina los números de cuenta y cualquier cosa que parezca una credencial. Usa el chat para contextualizar y las listas de verificación para presentar a un profesional, no como tu médico, contador o archivador de estados de cuenta.

¿Por qué los datos y las capturas de pantalla de otras personas son especialmente riesgosos?

No eres la única persona involucrada: correos electrónicos de compañeros, números de teléfono de clientes, fotos de niños o transcripciones de llamadas pueden aparecer en un sistema sin su consentimiento. Resume con tus propias palabras, reemplaza los nombres por los cargos y nunca pegues información personal de niños para fines de entretenimiento. Las capturas de pantalla ocultan marcadores, tokens de URL, nombres de Slack y pestañas abiertas; recorta la imagen dos veces, difumina los identificadores o vuelve a escribir el error en lugar de subir documentos de identidad.

¿Qué patrones de solicitud más seguros siguen obteniendo respuestas sólidas de la IA?

Sé específico sobre el problema y discreto con la identidad: objetivo, restricciones, datos de entrada ficticios, resultado deseado. Usa etiquetas únicas de marcador de posición, solicita un método en lugar de un registro de producción completo, divide la tarea para que completes tú mismo las partes confidenciales y usa ejemplos sintéticos. Realiza un análisis previo al pegado para detectar signos @, cadenas largas aleatorias similares a claves, números demasiado grandes y nombres que no incluirías en una diapositiva. Diez segundos valen la pena para siempre.

¿Y si ya he pegado algo incómodo en un chat de IA?

Deja de usar esa clave secreta: cambia la contraseña, revoca la clave e invalida la sesión. Elimina el chat si el producto lo permite, revisa los archivos de memoria o del proyecto, informa a la persona adecuada si se trataba de datos de trabajo y mantente alerta ante inicios de sesión inusuales. Si eran datos de otra persona, elimínalos y avisa cuando sea necesario. No añadas más explicaciones a una filtración; el contexto adicional solo genera más información.

¿Cómo puede un equipo pequeño dejar de introducir credenciales en la IA para depurar errores?

Utilice un informe que priorice la censura: describa los secretos por tipo, incluya registros ficticios con REDACTED_KEY y ejemplos de correos electrónicos, indique qué se eliminó y solicite las posibles causas, además de una lista de verificación; no se limite a "conectar con mi clave". Añada una regla breve y sencilla: sin credenciales, sin información personal identificable del cliente, sin cifras no publicadas, censurar por defecto, y muestre un buen ejemplo de información anonimizada. Guarde las credenciales reales en una bóveda y aplique las correcciones sin conexión una vez que el modelo sugiera un método.

Referencias

  1. NCSC — ncsc.gov.uk
  2. OpenAI — help.openai.com
  3. OpenAI — openai.com
  4. Claude — privacy.claude.com
  5. Google Workspace — knowledge.workspace.google.com
Prueba
1. Según el artículo, ¿qué es lo que nunca se debe escribir en un chat público con IA?

2. ¿Qué significa “los secretos permanecen sin conexión” en esta guía?

3. ¿Cómo se debe eliminar la identidad antes de solicitarla?

4. ¿Qué información debe mantenerse fuera del chat con los clientes para proteger la confidencialidad laboral?

5. ¿Qué hábito coincide con los consejos sobre consentimiento y edición del artículo?


Artículos que quizás te interese leer después de éste:

🔗 Las mejores herramientas de seguridad con IA
Descubre potentes plataformas de seguridad con IA que detectan y mitigan las ciberamenazas.

🔗 ¿Por qué la IA a veces inventa cosas?
Comprenda por qué la IA tiene alucinaciones y aprenda cómo reducir los riesgos.

🔗 Cómo automatizar tareas con IA
Implemente flujos de trabajo de automatización seguros añadiendo supervisión humana y reglas estrictas.

🔗 ¿Qué es la tecnología de IA?
Explora los fundamentos de la inteligencia artificial y sus desafíos comunes de implementación.

Volver al blog