Club Français de la Gouvernance des Systèmes d’information

 

ecISG-ceGSI

V 2.3

1^er septembre 2024

Mise à jour de Septembre

 

Planning des réunions en 2024

• Mercredi 4 Septembre 2024 à 18 h 30 : réunion de réflexion. En visio-conférence sur Jitsi : « Panorama des IA Génératives en avril 2024 » par Christophe Legrenzi et Georges Bressange.

Presque six mois se sont écoulés depuis notre dernière intervention du 8 novembre, où nous avions passé en revue de nombreux modèles de langage à grande échelle (LLM) et des solutions riches en applications dans le contexte professionnel. Depuis, le paysage de l'intelligence artificielle générative (IAG) a évolué à une vitesse vertigineuse, rendant le choix parmi les offres existantes encore plus complexe, notamment en raison de la concurrence accrue entre les modèles open source et les solutions propriétaires, chacun présentant des avantages et des inconvénients distincts.

Au cœur de cette évolution rapide, les architectures Mixture-of-Experts (MoE) tels Mixtral 8X7B, FLAN-MoE, GPT-4 et Gemini pro, promettent de meilleures performances, un entrainement du modèle plus rapide (et donc moins couteux) et des coûts d’inférences significativement plus faibles. Cette approche améliore considérablement la capacité du modèle à apprendre et à traiter des tâches complexes rapidement, promettant des applications plus diverses et plus puissantes dans des domaines aussi variés que l'analyse de contenu vidéo, audio, ou encore le traitement de grands corpus de texte.

En parallèle, l'écosystème de l'IA continue de s'enrichir avec les dernières versions des modèles tels que Claude, développé par Anthropic, qui se distingue par sa capacité à comprendre et à générer des réponses dans un cadre éthique et sécurisé. Cette orientation vers des modèles d'IA plus responsables souligne l'importance croissante de la sécurité, de l'éthique et de la fiabilité dans le choix des technologies d'intelligence artificielle.

Dans ce contexte en pleine mutation, la question de savoir quels sont les modèles les plus performants et surtout comment les choisir en fonction du cas d'usage considéré devient cruciale. L'exploitation des bases de données vectorielles et des moteurs de réponse à la génération d'adresses (RAG) ouvre également de nouvelles perspectives pour les applications professionnelles, permettant des recherches et des interactions plus naturelles et intuitives avec de vastes ensembles de données.

• Mercredi 25 Septembre 2024 à 18 h 30 : réunion de réflexion. En visio-conférence sur Jitsi. « Pas d'IA raisonnable sans une gouvernance affirmée » par Philippe Nieuwbourg

En mars 2024, a été annoncé le nouveau modèle développé par OpenAI, afin de créer intégralement des vidéos réalistes, Sora. Interrogée par Le Wall Street Journal, Mira Murati, Chief Technology Officer chez OpenAI - rien que cela - a publiquement reconnu qu’elle n’avait aucune idée des données qui avaient pu être utilisées pour l'entraînement du modèle de Sora !

Elle a ainsi souligné au monde entier combien la mise en place de l'IA dans une entreprise impose de passer par la mise en place d'un cadre de gouvernance ad’hoc :

• Cartographie des risques liés aux erreurs, aux biais, aux discriminations, aux hallucinations, ...
• Mesure des risques liés à la non-qualité des données.
• Mesure des risques liés à l'explicabilité et la reproductibilité des modèles.
• Respect des règles de conformité établies au niveau local, sectoriel, national et international.
• Statistiques des incidents détectés par le fournisseur et par les clients.
• Existence d’une procédure de remonté des incidents et les suites qui leur sont données.
• ….

Les entreprises clientes doivent veiller à ce que ces applications sont certifiés par un organisme connu et fiable et dans le cas de la mise en œuvre à grande échelle il est prudent d’effectuer un audit des risques et des mesures prises pour les réduires.

C'est un sujet dont les CIGO (Chief Information Governance Officer) comptent bien s'emparer. Ils ont déjà leur association, leur framework, leur lobby. Malheureusement pas encore très développés en France.

 

 

• Mercredi 16 Octobre 2024 à 18 h 30 : réunion de réflexion. En visio-conférence sur Jitsi. « Les réseaux sociaux au coeur du changement de la stratégie numérique» par Pierre Berger, David Fayon et Bernard Quinio

Alors que Facebook, le numéro 1 des réseaux sociaux, a fêté ses 20 ans, que Twitter devenu X a été racheté par Elon Musk et que l’on assiste à une « premiumisation » des réseaux sociaux, la question de leur évolution et de leur impact sur la société reste centrale. L'enjeu est simple : avoir plus de visibilité de ses posts, de services associés et moins de publicité. Le caractère addictif d’Instagram et plus encore de TikTok est pointé. Les ravages potentiels sur le temps d’attention, notamment des plus jeunes, est souligné par de nombreuses études.

En France, une commission a récemment émis des recommandations quant à leur usage pour les jeunes ainsi que globalement les écrans et les smartphones. Elle prône des restrictions aux réseaux sociaux jugés « éthiques » ou à leur interdiction pure et simple selon l'âge. Pour autant, ils restent essentiels dans la communication des marques. Celles-ci ont réalloué des budgets hors ligne vers les réseaux sociaux avec des KPI à la clef. Parallèlement, une fragmentation de l’audience est constatée. Aussi chaque internaute ou toute entreprise, du fait de ses contacts et de ses cibles, est appelé à investir une présence un peu partout, ce qui peut s’avérer chronophage sans outil d’aide et rigueur méthodologique pour interagir avec son audience. Outre le phénomène chinois TikTok, de nouveaux outils sont apparus : BeReal, Threads, BlueSky pour n’en citer que quelques-uns sans compter des outils de niches.

L’évolution des algorithmes qui favorisent de fait les contenus clivants, la difficile question de la modération où il convient de permettre à des signaux faibles pertinents de pouvoir s’exprimer dans une démocratie, l’évolution législative avec le DSA et le DMA ainsi que l’irruption de l’IA générative pour créer du contenu sont de nouveaux challenges auxquels les plateformes et les utilisateurs doivent faire face.

Bernard Quinio, Pierre Berger et David Fayon débattront sur ces évolutions structurantes.

• Mercredi 6 Novembre 2024 à 18 h 30 : réunion de réflexion. En visio-conférence sur Jitsi

• Mercredi 27 Novembre 2024 à 18 h 30 : réunion de réflexion. En visio-conférence sur Jitsi. « Les stratégiques de l’informatique territoriale » par Philippe Cases et Louis Montagne

 

            En attente du texte de de la présentation

• Mercredi 18 Décembre 2024 à 18 h 30 : réunion de réflexion. En visio-conférence sur Jitsi

En attente

• « La Loi de Metcalf revisitée, revue et améliorée» par Georges Bressange.

En attente de la confirmation du titre et du texte de la présentation

• « Point sur l’Intelligence Artificielle en Chine» par David Fayon et Gilbert Revillon

• « Retour sur les mécanismes de ChatGPT» par Jean Rohmer