Êtes-vous en train de chatter avec un bot GPT ?
Cet article a pour but de vous apprendre plusieurs astuces et techniques populaires pour détecter si vous chattez avec un bot de média social, de site de rencontre ou de service d'assistance, en particulier lorsqu'il n'y a pas d'avertissement et que le bot essaie de se faire passer pour un humain. Je me réfère spécifiquement aux bots de conversation comme ChatGPT, et non à n'importe quel bot.
L'intelligence artificielle résout bon nombre de nos problèmes et nous permet souvent d'accomplir des tâches plus rapidement, de manière plus productive et mieux qu'auparavant.Toutefois, l'IA constitue également une menace sérieuse à bien des égards, et je ne parle pas seulement des emplois. Elle commet beaucoup d'erreurs, fournit souvent de fausses informations, nous fait perdre du temps, sape notre bon sens et limite notre capacité à faire des recherches et à tirer nos propres conclusions.
L'IA menace également la vie privée et la sécurité, tant au niveau individuel que collectif, car elle peut être utilisée pour créer des fausses nouvelles, des photos et des vidéos comme jamais auparavant. Enfin, et c'est le sujet principal de cet article, l'IA peut parfaitement simuler des personnes réelles et se faire passer pour elles dans les chats, les médias sociaux, les sites de rencontre, les services d'assistance et bien d'autres choses encore. Bien que les services indiquent généralement quand ils utilisent l'IA, les fournisseurs ne sont pas toujours sincères, faisant parfois passer les avatars générés par l'IA pour des humains. Cette pratique est courante dans les médias sociaux (faux followers, likes, etc.), mais aussi dans les chats et sur les sites de rencontre. Nous souhaitons donc vous alerter sur ce danger et vous fournir des outils efficaces pour vous aider à détecter si vous chattez avec une IA ou une personne réelle.
Nous ne prétendons pas offrir une solution parfaite et toujours efficace, mais je suis convaincu qu'après avoir lu cet article, vous saurez beaucoup mieux déterminer si vous êtes trompé ou si vous êtes traité honnêtement.
Comment fonctionnent les chatbots ?
Malgré l'image qui figure au début de cet article - un robot futuriste tenant un téléphone portable - les chatbots ne sont pas si impressionnants en réalité. Il s'agit simplement de programmes informatiques, généralement écrits en Python ou dans d'autres langages, qui génèrent des messages et des conversations d'une manière typiquement humaine. Pour ce faire, ils analysent statistiquement des milliards de textes et de conversations. En outre, à l'aide de modèles mathématiques complexes, ils imitent le fonctionnement des neurones humains pour générer des pensées et des idées.
Cependant, ils ne sont pas des copies parfaites de nous. Malgré l'imitation, ils restent des programmes informatiques, généralement entraînés pour répondre à des sujets spécifiques. Il est clair que les chatbots n'ont pas toujours besoin de la puissance générative de ChatGPT, lequel est un modèle plus général et nécessite donc beaucoup plus de puissance de traitement et de données. Il existe également des chatbots plus petits, et si tout programme GPT peut être détecté par ses schémas de réponse, les chatbots plus simples sont encore plus faciles à repérer parce qu'ils sont entraînés exclusivement sur un sujet spécifique. Par exemple, les produits et services proposés par un influenceur ou un spécialiste du marketing pourraient facilement être présentés par une IA entraînée sur un ordinateur personnel en raison du contexte limité de son domaine d'expertise.
Voici quelques signes typiques qui révèlent que vous parlez à une IA qui se fait passer pour un être humain :
- Champ de conversation limité : Essayez d'orienter la conversation vers un sujet plus complexe ou différent. Une IA indiquera rapidement qu'elle ne comprend pas ou, s'il s'agit d'une IA plus avancée, elle ne répondra pas du tout sans raison évidente.
- Ne réagit pas aux tons provocateurs : Si vous essayez d'adopter un ton plus provocateur ou plus direct, l'IA s'en tiendra probablement à une réponse polie et politiquement correcte. Bien qu'un représentant du service clientèle qualifié puisse également agir de la sorte, il essaiera généralement de changer de sujet ou de vous transférer. L'IA reste sur sa voie préprogrammée.
- Offres de services rigides : Si elle propose un service, essayez de faire une contre-offre. Par exemple, s'il propose la gestion des médias sociaux, posez des questions sur les partenariats commerciaux. Si elle propose toujours les mêmes services et semble incapable de s'en écarter, il s'agit probablement d'une IA.
- Dérive du sujet : Lors d'un chat général, si l'IA oriente la conversation vers un autre sujet sans montrer qu'elle a compris ce que vous avez dit précédemment, c'est qu'elle est probablement prisonnière de ses paramètres d'entraînement.
Voici quelques signes typiques qui révèlent que vous parlez à une IA qui se fait passer pour un être humain :
- Réponses instantanées et longues : Elle répond instantanément à de grandes quantités de texte, comme si elle collait des réponses ou tapait à une vitesse supérieure à 106 mots par minute (la vitesse moyenne d'élocution d'un être humain est de 106 à 109 mots par minute).
- Interprétation littérale : Elle prend tout au pied de la lettre, souvent à un degré exagéré, presque grotesque (bien que cela puisse être un trait de caractère de certains autistes).
- Réponses vagues et génériques : Il fournit des réponses vaguement liées à votre question, répétant parfois vos mots pour simuler l'attention - un vieux truc.
- Une disponibilité sans faille : Elle est toujours disponible, quelle que soit l'heure à laquelle vous la contactez, et donne systématiquement les mêmes réponses à des questions répétées, avec un minimum de variations.
- Demande de date : Cette astuce est très connue et discutée dans les médias sociaux. Demandez-lui la date du jour. Une réponse trop formelle du type «Nous sommes le jeudi 26 octobre 2023», sans surprise ni hésitation, est un indicateur fort. Un humain répondrait probablement de manière moins rigide, même s'il essayait d'être utile.
Enfin, voici quelques signes plus généraux :
- Temps de réponse constant : Les modèles plus avancés peuvent utiliser un délai constant entre la réception d'un message et la réponse. Un délai variable ou aléatoire est moins courant.
- Complexité de réponse uniforme : Les réponses de l'IA tendent à maintenir un niveau constant de complexité et de structure, alors que les réponses humaines varient en termes de style, de rythme et de complexité.
- Erreurs et répétitions : Si les réponses de l'IA peuvent être exemptes d'erreurs, elles peuvent néanmoins présenter des erreurs syntaxiques ou sémantiques. Une orthographe parfaite peut également être un signe d'artificialité.
- Manque de nuances culturelles et émotionnelles : L'IA passe souvent à côté de subtilités culturelles, émotionnelles ou contextuelles.
- Être très direct : Poser des questions directes sur des opinions personnelles ou des expériences très spécifiques peut révéler l'identité de votre interlocuteur. Si vous dites quelque chose d'absurde et qu'on vous répond comme si c'était tout à fait normal, il est probable que vous parliez à une IA.
Un exemple en anglais de chat avec l'IA
Il est clair que l'interaction avec une IA n'est pas toujours mauvaise. Parfois, la réponse d'une IA spécifiquement formée pour résoudre un problème dans un contexte particulier est bien meilleure et plus rapide que l'attente d'un agent humain. Mais tout dépend du contexte et, d'une manière générale, l'utilisateur doit toujours être informé et ne jamais permettre à quelqu'un de le tromper en se faisant passer pour ce qu'il n'est pas.
Plus IA ou moins d'IA ?
Ce dont nous avons discuté jusqu'à présent soulève une question évidente : L'IA est-elle en fin de compte positive ou négative ? Il est inévitable que le progrès humain finisse par atteindre ce point. Tout au long de l'histoire, chaque fois qu'une nouvelle technologie est apparue, des emplois ont été perdus et d'autres ont été créés. Il faut espérer qu'il en sera de même avec l'IA. Sans adhérer aux mythes du style Terminator selon lesquels l'IA nous réduirait en esclavage, nous devons accepter le progrès pour ce qu'il est, car nous ne pouvons pas lutter contre la réalité.
Toutefois, il est essentiel d'adopter des lois et des réglementations strictes pour prévenir les abus inévitables de l'IA. Par exemple, il faudrait des lois exigeant que les utilisateurs soient informés s'ils interagissent avec une machine, interdisant la création de fausses nouvelles et exigeant un étiquetage clair du contenu généré par l'IA.
Surtout, les générateurs de modèles de langage tels que ChatGPT devraient être tenus d'intégrer des modèles permettant aux humains et aux autres machines d'identifier sans équivoque les contenus générés par l'homme et ceux générés par l'IA. De telles lois permettraient de limiter les abus et de mettre en évidence les avantages offerts par l'IA. Ce n'est qu'à cette condition que cette innovation récente et très controversée pourra être considérée comme réellement bénéfique pour le progrès et la productivité.
A propos de l'auteur
