Alinia AI, la « startup » qui dirige le créateur du domaine d'éthique algorithmique de Twitter, le catalan Police Ariadnaet Carlos Muñoz, conseiller de Hugging Face, ont clôturé avec succès un tour de table de pré-amorçage de 2,4 millions de dollars (2,2 millions d'euros) pour votre projet. Un investissement mené par des fonds de capital-risque Investir rapidement et Précurseurqui a également bénéficié de la participation de KFund et de divers « anges » de premier plan tels que Clem Délangue et Tom Loup (co-fondateurs de Hugging Face), Tom Preston (co-fondateur de GitHub), Xavier Amatriain (VP de Google Core AI) et Vinyals Oriol (Vice-président de la recherche et du développement chez Google DeepMind).
L'entreprise a développé une plateforme pour aider les entreprises à réaliser une déploiement fiable et maîtrisé de l’intelligence artificielle générative, qui fonctionne en fonction de vos politiques et préférences commerciales. Comme le rappellent ses dirigeants, l'un des grands défis du déploiement de cette technologie est de gérer la fiabilité et le contrôle de ces applications face à des risques tels que la génération de contenus inappropriés, faux ou nuisibles qui nuisent à la réputation de l'entreprise.
De plus, les initiatives réglementaires telles que le règlement européen sur l'IA, le décret aux États-Unis ou le projet de loi C-27 au Canada, qui exigent des contrôles de qualité rigoureux et une documentation claire, ajoutent des obstacles à une adoption massive par les entreprises.
« La technologie n’est pas prête à être produite dans un environnement commercial. Les dirigeants ont raison d’avoir peur d’être évoqués dans la presse car leurs applications d’IA générative réagissent de manière inappropriée, voire nuisible, à leurs clients ou employés. L'atteinte à leur réputation ne les laisse pas dormir », déclare Ariadna Font Llitjós, co-fondatrice d'Alinia. « Grâce à un processus connu sous le nom d' »alignement », nous veillons à ce que les systèmes d'IA se conformer aux comportements attendus, aux politiques et aux exigences réglementairesaidant ainsi les entreprises à profiter des promesses de cette nouvelle technologie tout en minimisant les risques et les dommages potentiels », ajoute l'entrepreneur.
Expérience Twitter
« Sur Twitter, j'ai pu constater par moi-même l'impact que biais dans les données de formation et les algorithmes peuvent avoir sur les populations vulnérables. J'ai apporté ces expériences et apprentissages à Alinia afin que d'autres entreprises puissent déployer l'IA générative de manière responsable, pour leurs employés et leurs clients », a insisté Font.
La plateforme d'alignement d'Alinia vise à fournir une approche globale du contrôle et de la fiabilité de l'IA. Cela nécessite actuellement plusieurs outils allant de évaluation et suivi en temps réel, aux techniques de personnalisation des modèles fondamentaux, ainsi qu'à la documentation automatisée qui facilite la gouvernance et la conformité une fois l'application mise en production. Permettre aux clients d'avoir des preuves claires et précises de la manière dont les applications pilotées par des modèles fondamentaux se comportent dans différents scénarios commerciaux, pour des tâches spécifiques et dans le respect de règles spécifiques, constitue la première étape vers un alignement de l'IA générative pour les entreprises.
« D'après mon expérience chez Hugging Face, les aspects de gouvernance et de fiabilité du développement LLM nécessitent une quantité incroyable de temps et d'efforts. Mais lorsque vous êtes sur le point de lancer un modèle fondateur qui sera utilisé des millions de fois, la gouvernance et la fiabilité sont essentielles », déclare Carlos Muñoz Ferrandis, co-fondateur et COO.
Alinia utilisera le capital du cycle de financement pour embaucher des talents supplémentaires et construire la plateforme d'alignement d'Alinia. La vision à long terme de ces deux Espagnols est d’assurer l’utilisation fiable et inclusive de l’IA générative dans toutes les modalités et dans toutes les langues.