¿Estás chateando con un bot GPT?
Este artículo pretende enseñarte varios trucos y técnicas populares para detectar cuándo estás chateando con un bot en redes sociales, sitios de citas o servicios de ayuda, especialmente cuando no hay ninguna advertencia acerca de esto y el bot está intentando hacerse pasar por un humano. Me refiero específicamente a chatbots como ChatGPT, no a cualquier bot.
La inteligencia artificial resuelve muchos de nuestros problemas y a menudo nos permite realizar tareas más rápido, de forma más productiva y mejor que antes. Sin embargo, la IA también supone una grave amenaza en muchos sentidos, y no me refiero sólo a los puestos de trabajo. Comete muchos errores, a menudo proporciona información falsa, nos hace perder el tiempo, socava nuestro sentido común y limita nuestra capacidad para investigar y sacar nuestras propias conclusiones.
La IA también es una amenaza para la privacidad y la seguridad, tanto individual como colectiva, porque puede utilizarse para crear noticias, fotos y vídeos falsos como nunca antes. Por último, y este es el tema principal de este artículo, la IA puede simular perfectamente a personas reales, haciéndose pasar por ellas en chats, redes sociales, sitios de citas, servicios de asistencia y mucho más. Aunque generalmente estos servicios suelen revelar cuándo utilizan IA, no todos los proveedores de estos ervicios son sinceros y a veces hacen pasar por humanos a personajes generados por IA. Esto es habitual en las redes sociales (seguidores falsos, «me gusta», etc.), pero también en los chats y en los sitios de citas. Por eso queremos alertarte de este peligro y ofrecerte herramientas eficaces que te ayuden a detectar cuándo estás chateando con una IA o con una persona real.
No pretendemos ofrecer una solución perfecta que funcione siempre, pero estoy seguro de que después de leer este artículo sabrá determinar mucho mejor si le están engañando o no.
¿Cómo funcionan los bots de chat?
A pesar de la imagen que aparece al principio de este artículo -un robot futurista con un teléfono móvil en la mano -, los chatbots no son tan impresionantes en realidad. No son más que programas informáticos, generalmente escritos en Python u otros lenguajes, que generan mensajes y conversaciones de forma típicamente humana. Lo hacen analizando estadísticamente miles de millones de textos y conversaciones. Además, mediante complejos modelos matemáticos, imitan el funcionamiento de las neuronas humanas para generar pensamientos e ideas.
Sin embargo, no son copias perfectas de nuestro modo de pensar. A pesar de la calidad de la imitación, siguen siendo programas informáticos, normalmente entrenados para responder a temas específicos. Está claro que los chatbots no siempre necesitan la potencia generativa de ChatGPT, que es un modelo más general y, por tanto, requiere bastante más potencia de procesamiento y datos.También hay chatbots más pequeños, y aunque cualquier programa GPT puede detectarse por sus patrones de respuesta, los chatbots más simples son más fáciles de detectar porque están entrenados exclusivamente en un tema específico. Por ejemplo, los productos y servicios que ofrece un influencer o un especialista en marketing podrían ser fácilmente presentados por una IA entrenada en un ordenador personal debido al contexto limitado de su área de especialización.
He aquí algunas señales típicas que revelan que estás hablando con una IA que se hace pasar por humana:
- Alcance conversacional limitado: Intenta dirigir la conversación hacia un tema más complejo o diferente. Una IA indicará rápidamente que no entiende o, si es una IA más avanzada, no responderá sin ninguna razón obvia.
- No responde a tonos provocativos: Si intentas utilizar un tono más provocador o directo, es probable que una IA se ciña a una respuesta educada y políticamente correcta. Aunque un representante de atención al cliente con formación también podría hacerlo, normalmente intentará cambiar de tema o transferirte. Una IA seguirá su camino preprogramado.
- Ofertas de servicios inflexibles: Si ofrece un servicio, haz una contraoferta. Por ejemplo, si te ofrece gestión de redes sociales, ofrécele una asociación empresarial. Si sigue ofreciendo obtusamente los mismos servicios y parece incapaz de desviarse, es probable que se trate de una IA.
- Tema a la deriva: En un chat general, si la IA cambia la conversación a otro tema sin demostrar que entiende tu punto anterior, probablemente esté atrapada en sus parámetros de entrenamiento.
He aquí algunas señales típicas que revelan que estás hablando con una IA que se hace pasar por humana:
- Respuestas instantáneas y largas: Responde instantáneamente con grandes cantidades de texto, como si pegara respuestas o tecleara a más de 106 palabras por minuto (la velocidad media del habla humana es de 106-109 ppm).
- Interpretación literal: Lo toma todo al pie de la letra, a veces de manera exagerada y grotesca (aunque el hecho de tomar las cosas literalmente es tipicamente autista).
- Respuestas vagas y genéricas: Ofrece respuestas vagamente relacionadas con tu pregunta, a veces repitiendo tus palabras para simular atención: un viejo truco.
- Disponibilidad inquebrantable: Siempre está disponible, no importa a qué hora te pongas en contacto con él, y siempre da las mismas respuestas a preguntas repetidas con una variación mínima.
- Consulta de fecha: Este truco es muy conocido y comentado en las redes sociales. Pregúntale por la fecha de hoy. Una respuesta demasiado formal como Hoy es jueves 26 de octubre de 2023, sin ninguna sorpresa ni vacilación, es un fuerte indicador. Un humano probablemente respondería de forma menos rígida, incluso si estuviera tratando de ser útil.
Por último, he aquí algunos signos más generales:
- Tiempo de respuesta coherente: Los modelos más avanzados pueden utilizar un retardo constante entre la recepción de un mensaje y la respuesta. Un retraso variable o aleatorio es menos habitual.
- Complejidad de respuesta uniforme: Las respuestas de la IA tienden a mantener un nivel constante de complejidad y estructura, mientras que las respuestas humanas varían en estilo, ritmo y complejidad.
- Errores y repetición: Aunque las respuestas de la IA no contengan errores, pueden presentar errores sintácticos o semánticos. La ortografía perfecta también puede ser un signo de artificialidad.
- Falta de matiz cultural/emocional: La IA suele pasar por alto sutilezas culturales, emocionales o contextuales.
- Ser muy directo en preguntar Hacer preguntas directas sobre opiniones personales o experiencias muy concretas puede revelar con quién estás interactuando. Si dices algo absurdo y obtienes una respuesta como si fuera perfectamente normal, es probable que estés hablando con una IA.
Un ejemplo en inglés sobre chat con IA
Está claro que interactuar con una IA no siempre es malo. A veces, una respuesta de una IA entrenada específicamente para resolver un problema en un contexto concreto es mucho mejor y más rápida que esperar a un agente humano. Pero todo depende del contexto y, en general, tú como usuario siempre debes estar informado y nunca permitir que nadie te engañe haciéndose pasar por quien no es.
¿Deberíamos tener más IA o menos IA?
Lo que hemos debatido hasta ahora plantea una pregunta obvia: ¿La IA es, en última instancia, positiva o negativa? Es inevitable que el progreso humano llegue a este punto. A lo largo de la historia, siempre que ha surgido una nueva tecnología, se han perdido algunos puestos de trabajo y se han creado otros nuevos. Esperemos que esto también ocurra con la IA. Sin creer en los mitos al estilo Terminator sobre la IA esclavizándonos, debemos aceptar el progreso tal como es, porque no podemos luchar contra la realidad.
Sin embargo, es crucial promulgar leyes y normativas estrictas para evitar los inevitables abusos de la IA. Por ejemplo, necesitamos leyes que obliguen a informar a los usuarios si están interactuando con una máquina, que prohíban la creación de noticias falsas y que obliguen a etiquetar claramente los contenidos generados por IA.
Sobre todo, debería exigirse a los generadores de modelos lingüísticos como ChatGPT que incorporen patrones que permitan tanto a los humanos como a otras máquinas identificar inequívocamente los contenidos generados por humanos y los generados por IA. Estas leyes ayudarían a limitar los abusos y a poner de relieve las ventajas que ofrece la IA. Sólo entonces podrá considerarse que esta reciente y muy controvertida innovación es realmente beneficiosa para el progreso y la productividad.
Sobre el autor
