La mémoire est le pire ennemi de l’intelligence artificielle

Les modèles linguistiques de grande envergure, aussi appelés LLM, tels que ChatGPT et Bard, sont reconnus pour leur demande intensive en données et en mémoire. Un véritable problème pour les appareils comme les iPhone, qui disposent d'une capacité mémoire limitée. Pour résoudre ce défi, les chercheurs d'Apple ont mis au point une technique ingénieuse utilisant la mémoire flash, la même mémoire qui stocke vos applications, photos et vidéos, pour héberger les données du modèle d'IA.

On découvre ainsi dans un document de recherche la thèse de ces chercheurs. Ils partent du principe que le stockage flash est plus abondant dans les appareils mobiles que la RAM traditionnellement utilisée pour exécuter les LLM. Ils vont ainsi contourner cette limitation en utilisant deux techniques clés qui minimisent le transfert de données et maximisent le débit de la mémoire flash. Car le souci de la mémoire flash face à la RAM, c’est bien la vitesse. Mais voici les deux solutions proposées :

• “Windowing” : Une méthode de recyclage qui permet à l'IA de réutiliser certaines données déjà traitées, réduisant ainsi le besoin constant de récupération de mémoire et accélérant le processus.

• “Row-Column Bundling” : Cette technique permet de regrouper les données de manière plus efficace, ce qui permet de les lire plus rapidement depuis la mémoire flash, accélérant ainsi la capacité de l'IA à comprendre et générer du langage.

C’est ainsi que la combinaison de ces méthodes permet aux modèles d'IA de fonctionner jusqu'à deux fois la taille de la mémoire disponible sur l'iPhone. On peut ainsi espérer avoir une augmentation de la vitesse de 4 à 5 fois sur les processeurs actuels et une amélioration fulgurante de 20 à 25 fois sur les processeurs graphiques actuels.

Et si Apple GPT arrivait plus vite que prévu ?

Apple est en train de développer son propre modèle d'intelligence artificielle générative baptisé "Ajax". L’objectif est ainsi évident : rivaliser avec le modèle GPT-4 d'OpenAI. Doté de 200 milliards de paramètres, Ajax promet un niveau de complexité et de capacité élevé dans la compréhension et la génération de texte. En interne, il est connu sous le nom "Apple GPT" et aspire à harmoniser le développement de l'apprentissage automatique à travers tout l'écosystème Apple. Ce qui suggère une stratégie plus globale d'intégration de l'intelligence artificielle dans les produits de la marque. Siri deviendra-t-il enfin intelligent ?

Selon les informations les plus récentes, Ajax semble surpasser la génération précédente, ChatGPT 3.5. Sauf que la recherche avance et tout suggère que les modèles plus récents d'OpenAI dépassent les capacités d'Ajax. Sans oublier Gemini de Google, qui explique surpasser GPT4.

Mais du coup ce serait pour quand ? Les sources vont dans la même direction : fin de 2024, date à laquelle iOS 18 sera lancé. Apple pourrait ainsi envisager d'intégrer une fonctionnalité d'intelligence artificielle générative sur l'iPhone et l'iPad.

Des nouveautés très attendues sur l’iPhone qui se traîne un assistant très peu dégourdi. Et pour cause, à la différence de Alexa et Google Assistant, Siri n’apprend pas avec vos données. L’objectif est ainsi de tout faire depuis votre téléphone, sans avoir à envoyer des informations dans le cloud.