INDUSTRIE

AI Factory

#AIFactory

#GenAI

#LLMOps

#Ambition

L'ambition
de la mission

En tant qu'acteur majeur de la construction dans le monde, la connaissance métier et l'expérience terrain sont au centre de tous leurs processus : appels d'offres, structuration de projets de grande ampleur, fluidification des interactions internes, amélioration de la rapidité et de la qualité des formations internes, et donc augmentation de la qualité globale des projets. Eulidia a accompagné les équipes métier et IT pour structurer et implémenter l'ambitieuse (mais réalisable) roadmap de 60 cas d'usage, via la création d'une GenAI Factory.

#Méthode

Notre
approche

Penser

Structurer une GenAI Factory

Une GenAI Factory correspond à l'ensemble des processus, des méthodes, et des outils permettant d'implémenter, déployer, maintenir, puis faire évoluer tous les GenAI products - tout cela en optimisant les coûts. Pour cela, nous commençons par comprendre et cartographier ce qui est déjà en place, identifier précisément l'ambition à long terme, afin de déterminer la structure de cette Factory. Ici, vu le contexte et l'existant, les choix ont été portés sur Snowflake & Dataiku sur GCP, augmentés par du Python (et notamment les bibliothèques Langchain et Ragas).

Construire

Mettre en place la GenAI Factory

La mise en place cette Factory a consisté en la constitution des différentes équipes concernées et de leurs rôles (IT, Métiers, Directions, Data Scientists), l'intégration des différents outils identifiés (Snowflake & Cortex Search, Gitlab, Langchain, Ragas...), et la priorisation des cas d'usage GenAI via notre framework d'évaluation de faisabilité (48 critères répartis sur 5 axes). Cette phase du projet est directement inspirée des meilleures pratiques du DevOps / MLOps et du Software Engineering, et permet d'établir une structure technique et métdhologique robuste et dont les briques sont facilement réutilisables (création de Vector Store, workflows d'évaluation automatique de la qualité de la vectorisation et du RAG etc.).

Déployer

Implémenter un 1er cas d'usage vitrine et devenir le point de référence GenAI

Une fois la GenAI Factory en place, il devient alors facile pour les métiers et les end users de déployer rapidement de nouveaux cas d'usage GenAI. L'approche RAG-as-a-Service est également complètement fonctionnelle et permet de mutualiser les ressources (Data & humaines) et d'optimiser la partie FinOps. Pour tester, valider, et promouvoir cette GenAI Factory, une app fonctionnelle vaut mille slides. Un premier assistant métier a donc été développé et déployé au sein de celle-ci. Cet assistant répond à des questions précises basées sur un corpus de documents. Ce cas d'usage a permis d'éprouver la GenAI Factory et de préparer l'implémentation du reste de la feuille de route. Aujourd'hui, la GenAI Factory traite les applications GenAI à destination de 35 000 personnes, et porte une interface métier comptant 3 500 utilisateurs uniques par mois. Au total, ce sont plusieurs millions de pages documentaires qui ont été traitées et intégrées à la GenAI Factory.

#Bénéfices

Indicateurs
de réussite

15 cas d'usage déployés et industrialisés, basés sur 2 millions de pages vectorisées

3 500 utilisateurs uniques par mois

< 1 semaine pour le déploiement d'un nouveau RAG

#Réalisations

Découvrez nos
autres uses cases

Voir tous nos uses cases