ChatGPT n’est pas parfait et OpenAI compte sur vous !

Depuis quelques mois, OpenAI est devenue l'une des entreprises de recherche en intelligence artificielle les plus connues au monde grâce à son modèle de traitement du langage naturel appelé ChatGPT. Pour ceux qui ne seraient pas au fait, ChatGPT est un système de traitement du langage naturel basé sur l'apprentissage automatique qui peut comprendre, générer et répondre à des messages dans un langage naturel. C'est un outil très puissant qui peut être utilisé pour diverses tâches, comme la traduction, la génération de texte et même la création de ligne de code.

Cependant, et même avec toute cette puissance, ChatGPT n'est pas parfait. Comme tout système basé sur l'apprentissage automatique, il peut y avoir des erreurs et des incohérences dans ses réponses. Et c’est justement pour cette raison, qu’OpenAI a décidé de lancer un Bug Bounty, avec l’aide de Bugcrowd, pour encourager les utilisateurs à dénicher ces fameuses erreurs et incohérences. Le concours est ouvert à tous, et permet aux participants de soumettre des exemples de messages qui contiennent des coquilles ou des énormités. Spoiler : si vous vous sentez l’âme d’un chasseur de primes, vous pouvez gagner gros !

20 000$ dans la popoche grâce à OpenAI et ChatGPT

Comme nous vous l’expliquions un peu plus haut, les créateurs de GPT-4 ont annoncé le lancement de leur ChatGPT Vulnerability Bounty Program (VRP). Ce Bug Bounty possède un système de récompense basé sur l'importance des contributions. Les paiements peuvent aller de 200$ pour les découvertes de faible gravité à 20 000$ (soit environ 18 100€) pour les « découvertes exceptionnelles ». Cette initiative montre la transparence et l'ouverture d'esprit dont fait preuve OpenAI. Ils reconnaissent que leur système n'est pas parfait, et pour ça ils sont prêts à travailler avec la communauté pour l'améliorer. De plus, cela montre également leur engagement envers la sécurité et la fiabilité de l'IA, ce qui est crucial étant donné l'impact potentiellement énorme que l'intelligence artificielle peut avoir sur notre société.

Crédit Photo : Capture site OpenAI

Comme susmentionné, pour ce Bug Bounty, la société de Sam Altman s’est associés aux équipes de Bugcrowd, une entreprise de renom dans le monde des primes pour les bugs et les vulnérabilités de systèmes informatiques. Ce sont d’ailleurs les équipes de cette seconde société qui seront chargées de la gestion des envois et des récompenses. À côté de ça, il convient de noter que ce type de pratique est de plus en plus courant parmi les grandes entreprises technologiques, Apple, Google, Meta et même Microsoft ont parfois offert des récompenses allant jusqu'à 200 000$ pour des erreurs sur leurs logiciels ou produits.

L'initiative d'OpenAI de lancer un concours pour améliorer ChatGPT montre que même les systèmes d'intelligence artificielle les plus avancés peuvent avoir des lacunes. De plus, cela souligne l'importance d'investir dans la recherche et le développement de l'IA, non seulement pour améliorer les performances des systèmes existants, mais également pour garantir leur fiabilité et leur sécurité dans des domaines tels que la médecine, les transports ou encore la finance.