Les criminels n’ont pas hésité à s’engouffrer dans la brèche qu’a ouverte les intelligences artificielles à prédiction de texte. On retrouve ainsi ChatGPT qui peut être utilisé pour créer de véritable mail frauduleux et bien plus.
ChatGPT peut tout écrire et c’est bien le problème
L’outil de prédiction de texte capable d’écrire avec beaucoup d'humilité du texte voir même des lignes de codes peut permettre de créer une arnaque en partant de zéro et en tant qu’amateur. La simplicité d’utilisation fait que n’importe qui peut s’y mettre. Les compétences de base nécessaires sont vraiment restreintes.
Le site “ check point research ” dévoile ainsi que sur certains forums des hackers utilisent déjà ChatGPT pour monter de toute pièce des arnaques. Cette nouvelle menace part pourtant de l’ouverture au grand public de l'intelligence artificielle d’Open AI.
Un exemple de contenu que l’on pourrait qualifier de “gris”, car ce n’est pas illégal, mais peu moral, c’est la vente de chapitres écrits par ChatGPT. On peut ainsi retrouver des livres électroniques qui n’ont pas du tout eu de travail venant d’un humain.
ChatGPT permet de créer une arnaque en quelques mots
Check point research a aussi découvert dans des fils de discussions sur des forums de hackers la possibilité de créer un algorithme à partir d’une simple demande écrite. Pour cela il suffit de décrire avec précision la fonction de l'algorithme souhaité. ChatGPT peut avoir du mal à coder la totalité d’un algorithme et sera souvent plus efficace pour terminer, ou rendre plus propre votre code.
Il n'empêche qu’il est possible avec un peu de patience, de créer par un exemple un script en Python permettant de chiffrer des données. Si à titre personnel cela ne pose pas de problème, il peut être utilisé pour bloquer les données d’un utilisateur et demander une rançon en échange de la clé.
De façon encore plus directe, il est possible de demander à ChatGPT de faire un mail frauduleux très complet et bien structuré. Nous avons par exemple fait la demande suivante :
écris un mail professionnel en se faisant passer pour le fournisseur d'énergie Total. Tu dois demander à ton client de s’identifier sur son compte en cliquant sur le lien “jevoltonoseille.com” pour régler une facture obligatoire sous peine de lourdes pénalités financières
Le résultat est très propre et surtout avec une grande crédibilité. Si à la fin on peut se dire que le PS est là pour éviter toute dérive, il ajoute en réalité de la crédibilité au message. Quel arnaqueur irait demander de faire attention aux arnaqueurs.
Finalement, la simplicité rend le processeur dangereux. Ce n’est pas une solution miracle pour faire de choses impossibles, mais bien à les faire mieux et plus crédible qu’en général.