La Suisse lance Apertus, un modèle de langage multilingue entièrement ouvert

L’EPFL, l’ETH Zurich et le CSCS ont lancé Apertus, le premier modèle de langage open source à grande échelle de Suisse, conçu pour la transparence, la reproductibilité et le multilinguisme.

La Suisse a dévoilé Apertus, un nouveau modèle de langage multilingue de grande envergure (LLM) développé par l’EPFL, l’ETH Zurich et le Centre suisse de calcul scientifique (CSCS). Entraîné sur le supercalculateur Alps à Lugano, ce modèle marque une étape importante pour une IA générative transparente, souveraine et inclusive en Europe.

Cette publication fait suite à l’annonce de juillet, lorsque les institutions avaient présenté leur projet de créer un LLM entièrement ouvert. Désormais disponible, Apertus est proposé en deux tailles, 8 milliards et 70 milliards de paramètres, et couvre plus de 1’000 langues. Environ 40%a des données d’entraînement sont non anglophones, ce qui renforce ses performances multilingues, y compris dans des langues sous-représentées telles que le suisse allemand et le romanche.

Transparence et accessibilité par conception

Contrairement aux systèmes propriétaires, Apertus offre une ouverture complète : architecture, données d’entraînement, poids du modèle et documentation sont tous accessibles publiquement. Le modèle peut être téléchargé sur Hugging Face ou utilisé via Swisscom, qui le déploie sur sa plateforme souveraine Swiss AI. Les usages à la fois scientifiques et commerciaux sont autorisés grâce à une licence open source permissive.

« Cette publication fournit une feuille de route sur la manière de développer une IA digne de confiance et souveraine », a déclaré Martin Jaggi, professeur de machine learning à l’EPFL et membre du comité directeur de la Swiss AI Initiative. Les chercheurs soulignent que la reproductibilité complète et la conformité aux réglementations suisses et européennes étaient des principes clés de sa conception, avec des données filtrées pour respecter la qualité et les standards éthiques.

Un moteur d’innovation et de collaboration

Le lancement d’Apertus coïncide avec les prochains hackathons des Swiss {ai} Weeks, où les développeurs pourront tester et expérimenter le modèle. « Apertus n’est pas simplement un transfert de la recherche vers le produit, mais un moteur d’innovation pour la société et l’industrie », a expliqué Thomas Schulthess, directeur du CSCS.

Les futures versions devraient élargir la famille Apertus, améliorer son efficacité et ajouter des capacités spécifiques à des domaines tels que le droit, la santé, le climat et l’éducation, consolidant ainsi le rôle de la Suisse dans une IA ouverte au service du bien commun.