Anyway Systems remet en question le besoin de grands centres de données pour l’IA

Des chercheurs de l’EPFL ont développé un nouveau logiciel d’IA distribuée permettant d’exécuter localement des modèles de langage puissants, remettant en cause la domination des centres de données cloud tout en renforçant la protection des données, la souveraineté numérique et la durabilité.

Des chercheurs de l’EPFL ont mis au point un nouveau logiciel susceptible de réduire significativement la dépendance aux grands centres de données cloud pour l’intelligence artificielle, ouvrant de nouvelles perspectives en matière de protection des données, de souveraineté de l’IA et de durabilité. Cette technologie, désormais portée par une spin-off baptisée Anyway Systems, permet aux organisations d’exécuter des modèles d’IA performants localement, sans transférer leurs données vers des fournisseurs cloud tiers.

Aujourd’hui, la majorité des applications d’IA reposent sur des infrastructures cloud. Lorsqu’un utilisateur soumet une requête, les données sont envoyées vers des serveurs distants où l’IA effectue l’inférence avant de renvoyer un résultat. Si ce modèle s’est imposé pour son efficacité, il concentre toutefois la puissance de calcul entre les mains de quelques grands acteurs technologiques et soulève des questions liées à la confidentialité, au contrôle des données sensibles, à la consommation énergétique et à la souveraineté nationale.

Développé au sein du Distributed Computing Laboratory (DCL) de l’EPFL par les chercheurs Gauthier Voron, Geovani Rizk et le professeur Rachid Guerraoui, Anyway Systems propose une approche alternative. Le logiciel permet de télécharger des modèles d’IA open source et de les déployer sur des réseaux locaux en coordonnant plusieurs machines au sein d’un cluster informatique sur site. Grâce à des techniques d’auto-stabilisation, le système optimise l’utilisation du matériel disponible tout en garantissant robustesse et fiabilité, sans recourir à des centres de données centralisés.

Protection des données, souveraineté et durabilité

Selon l’EPFL, des modèles de langage de grande taille peuvent être déployés sur un nombre limité de machines standards équipées de GPU courants, pour un coût bien inférieur à celui des infrastructures spécialisées habituellement requises pour l’IA. L’installation peut être réalisée en moins d’une heure, avec l’assurance que les données restent confinées au réseau local, garantissant ainsi confidentialité et souveraineté des données.

Les enjeux dépassent la seule question de la sécurité. L’inférence en IA représenterait jusqu’à 90% de la puissance de calcul liée à l’intelligence artificielle, contribuant à l’essor rapide de centres de données très énergivores. En permettant une inférence distribuée et locale, Anyway Systems pourrait réduire l’empreinte environnementale des déploiements d’IA tout en conservant une précision élevée, au prix de compromis limités en termes de temps de réponse.

Cette technologie s’appuie sur plusieurs années de recherche en systèmes distribués, tolérance aux pannes et optimisation menées à l’EPFL, avec des origines dans des travaux antérieurs sur la blockchain et le calcul décentralisé. Récemment, Anyway Systems a été sélectionnée parmi les six premiers bénéficiaires du programme Startup Launchpad AI Track, soutenu par UBS, afin d’accompagner son passage de la recherche au marché.