L’IA générative pour créer des faux produits…

Quand on pense à l’intelligence artificielle, c’est ChatGPT qui surgit en premier dans notre esprit. En effet, l’outil des laboratoires OpenAI a su plaire au grand public, notamment grâce son interface très simple à appréhender, mais surtout, grâce à l’efficacité de cette IA.

Des logiciels basées sur l’IA, il en existe déjà des milliers, et avec la popularité grandissante d’outils comme ChatGPT ou même Midjourney, ce n’est pas prêt de s’arrêter. Evidemment, certains d’entre eux permettent de créer toute sorte de programme assez intuitivement et de les mettre à disposition sur internet. Mais tout n’est pas rose et nous ne vivons bien sûr pas dans le monde des Bisounours… Entre les nombreuses utilisations illégales d’IA, pour du cacher du plagiat par exemple, on retrouve déjà des produits générés par IA qui ont pour but de se vendre sur Amazon ou d’autres boutiques alors que rien n’est fait par un humain…

C’est le cas de certains livres mis en vente sur Amazon. La plateforme de vente permet à quasiment toutes les entreprises de vendre des produits, sans forcément vérifier leurs qualités. En résulte des livres totalement générés par intelligence artificielle, vendus au prix fort. C’est dans la même logique qu’un papier du New York Times révèle qu’un véritable phénomène est né sur Amazon : les guides touristiques entièrement générés par IA. Sur le papier, rien de bien grave. Mais concrètement, on retrouve des guides touristiques par régions et pays totalement erronés puisqu’ils se basent sur les données des avis Google. Ainsi, on retrouve la soupe populaire d’Ottawa en “Top attraction touristique” aux Etats-Unis…

Nous assistons donc à une véritable inondation de produits créée de toute pièce par l’intelligence artificielle, ou du moins, par des personnes malhonnêtes qui souhaitent avant tout se faire de l’argent sur le dos des consommateurs. Mais alors, pourquoi Amazon n’arrive pas à faire le tri dans tout cela ? La raison est simple, des milliers de produits sont mis en vente chaque jour sur la plateforme, et il suffit que l’entreprise produisant des faux contenus utilise un bot pour booster ses avis et son taux de clic pour faire remonter tout un tas de livres et guides touristiques douteux dans le top des ventes Amazon.

Des conséquences qui peuvent être très graves

Pour un guide touristique, rien de bien grave puisque les acheteurs peuvent se rendre compte assez rapidement de la supercherie, mais qu’en est-il des livres. En effet, sur Amazon, on retrouve déjà des faux manuels d’artisanats, de médecine et même de programmation, dans le top des ventes Amazon.

L’arnaque semble être très lucrative puisque les revendeurs bombardent chaque jour la boutique avec de nouveaux produits. Baser son fond de commerce sur de l’arnaque, il faut le dire, c’est assez moche, mais Amazon ne peut pas y faire grand chose pour le moment.

A moins de faire une curation intensivedes produits, ce qui prendrait un temps et une énergie folle pour faire cela, impossible de trier toutes ces offres. Heureusement, pour l’instant, il est très facile de débusquer ces faux produits puisqu’ils comportent souvent des fautes assez grossières sur leur page de présentation. Mais avec les améliorations significatives que l’IA a connues en l’espace de quelques années, ces erreurs se feront de plus en plus rares et il faudra véritablement faire attention à ce que vous achetez sur les boutiques en ligne.