Lors d’un événement récent à la Chambre des communes organisé par HCLTech, des dirigeants du secteur public ont discuté de ce qu’il faut pour passer de l’expérimentation à la mise en œuvre concrète de l’IA et des données à grande échelle.

La séance a réuni Arjun Sethi, chef de la croissance et responsable mondial du secteur public, de l’aérospatiale et de la défense ainsi que de la pratique des capitaux propres chez HCLTech, Sue Bateman, chef des données au Department for Environment, Food and Rural Affairs (Defra) et Johnny Wolf, chef de l’architecture d’entreprise et responsable FinOps à la Metropolitan Police. Miranda Sharp, administratrice au Centre for Cities, a animé la discussion.

Sharp a commencé par deux questions qui définissent le défi auquel sont confrontées les équipes de données et du numérique du secteur public : « Quel est le rôle d’une fonction numérique quand tout le monde est maintenant un utilisateur et un expérimentateur actifs? » et « Une stratégie sur les données peut-elle être distincte d’une stratégie organisationnelle? »

La discussion qui a suivi a démontré à quel point ces questions sont maintenant liées. L’IA s’intègre rapidement dans les processus quotidiens, mais les organisations doivent encore déterminer comment l’expérimentation, la gouvernance, la stratégie sur les données et la valeur publique s’articulent ensemble.

L’IA devient une question organisationnelle

Defra dispose déjà d’une stratégie numérique globale, ainsi que de stratégies sur les données et l’IA élaborées au cours des dernières années. Bateman a expliqué que la rapidité des changements oblige maintenant le ministère à reconsidérer la façon dont ces stratégies sont gouvernées et appliquées.

« Le monde change tellement vite, » a-t-elle dit. La tâche consiste désormais à développer « une nouvelle approche de la gouvernance » qui permet à l’organisation de fonctionner de façon sécuritaire tout en répondant à la demande des utilisateurs pour de nouveaux outils.

Certains de ces outils resteront peut-être expérimentaux. D’autres pourraient changer considérablement les services et les opérations. Le défi est de créer un environnement qui soutient les deux sans perdre la maîtrise des risques, des données ou de la reddition de comptes.

Defra travaille aussi à devenir plus axée sur les résultats. Bateman a indiqué que l’IA risque d’avoir un impact sur des domaines allant de la gestion de la performance et des risques jusqu’aux opérations numériques et de données, ajoutant qu’« il n’y a aucune sphère qui ne sera pas touchée. »

Cela élargit la portée de l’IA au-delà d’un programme technologique. Les décisions sur son utilisation influencent de plus en plus les priorités organisationnelles, les compétences de la main-d’œuvre et la façon de concevoir et de livrer les services publics.

Relier les données aux résultats opérationnels

Sethi a mis l’accent sur le rôle de l’expertise sectorielle pour transformer les données d’entreprise en résultats utiles.

« Un nouvel emploi qui émerge s’appelle un ontologiste », a-t-il dit. Ce rôle combine une expertise approfondie du secteur à la capacité de structurer et de relier les actifs de données autour des résultats que l’organisation cherche à atteindre.

Dans le secteur de la défense, il peut s’agir de quelqu’un ayant une connaissance directe des opérations militaires. Dans le commerce de détail, d’une personne capable de « relier un SKU sur une vitrine jusqu’à la chaîne d’approvisionnement. »

Cette compréhension du domaine aide les organisations à créer des graphes de connaissances reliant l’information à travers les systèmes et les processus. Le contexte ainsi obtenu permet aux développeurs et aux équipes de données de concevoir des produits selon les besoins opérationnels réels plutôt qu’à partir d’exigences techniques abstraites.

Sethi a précisé que HCLTech met « beaucoup d’emphase » à réunir des ontologistes, des développeurs et des analystes de données pour « produire des produits et des actifs qui visent des résultats d’affaires. »

Selon lui, la donnée prend de la valeur lorsqu’elle est reliée au fonctionnement de l’organisation. Les compétences techniques demeurent essentielles, mais les spécialistes du domaine aident à s’assurer que les initiatives liées à l’IA et aux données s’attaquent aux bons problèmes.

Créer un espace sécuritaire pour l’expérimentation

La Metropolitan Police a adopté ce que Wolf a décrit comme « une approche très prudente de l’IA. »

Organisation très réglementée et axée sur la gestion du risque, la Met a d’abord mis sur pied un groupe de gouvernance de l’IA responsable. Elle a ensuite créé un carrefour d’innovation en IA où les technologies et les cas d’utilisation peuvent être explorés sans exposer de systèmes opérationnels ou de données sensibles.

La plupart des déploiements à ce jour se sont concentrés sur les activités d’affaires, loin des secteurs où le contrôle est le plus strict. Le carrefour d’innovation permet également aux équipes internes et à des fournisseurs externes de tester des idées grâce à des ensembles de données anonymisées ou contrôlées.

Wolf a expliqué que la distinction entre une preuve de concept et un projet pilote est importante. Une preuve de concept est hautement expérimentale, a une date de fin précise et peut être démantelée une fois les apprentissages obtenus. Un projet pilote peut être conçu avec le but d’être déployé en production et peut alors interagir avec des ensembles de données contrôlés dans des conditions plus strictes.

La fonction de données soutient ce processus en aidant à déterminer ce qui peut être testé, quelles informations peuvent être utilisées et si une expérience a réellement une voie d’accès crédible à la production.

Bateman a ajouté que les organisations du secteur public doivent fournir à la fois « les paramètres pour les gens » et « des environnements où les gens peuvent expérimenter en toute sécurité. » Cela inclut les bacs à sable et des voies accélérées pour tester des technologies émergentes dans le cadre d’une structure opérationnelle protégée.

La gouvernance doit aller à la vitesse de la technologie

Wolf a souligné que l’enjeu le plus difficile est de trouver l’équilibre entre « l’éthique, la gouvernance et la rapidité de livraison. »

La gouvernance est nécessaire, surtout en milieu policier, mais le processus de livraison doit aussi suivre le rythme de la technologie elle-même. Il a expliqué qu’une initiative visait la livraison d’une technologie en trois à six semaines mais a finalement pris six mois. Malgré tout, c’était considérablement plus rapide que les modèles de livraison précédents.

« Si vous ne suivez pas la cadence et si nous n’adaptons pas notre gouvernance et notre façon de travailler, nous serons dépassés par cette technologie, » a-t-il dit.

Bateman a convenu que les principes éthiques existants demeurent pertinents. L’innovation responsable et les cadres d’éthique établis continuent de fournir une base, même si la technologie soulève de nouvelles questions.

L’enjeu maintenant est d’appliquer ces principes dans des systèmes pouvant fonctionner de façon plus autonome. Bateman a précisé que les organisations doivent de plus en plus déterminer « à quel moment l’humain fait réellement partie de la boucle. »

Dans ce contexte, la gouvernance doit faire partie de la conception et du fonctionnement de l’IA et non être simplement une révision post-développement. L’objectif est d’accorder assez de liberté au personnel pour innover, tout en maintenant des limites, une surveillance et une reddition de comptes claires.

La souveraineté s’invite dans la conversation sur l’IA

Sethi a affirmé que l’éthique de l’IA s’inscrit aussi de plus en plus dans la question de la souveraineté nationale.

« Le monde est de plus en plus glocal, » a-t-il dit. Les pays veulent s’assurer que les technologies fonctionnant sur leur territoire respectent leurs lois, réglementations et attentes du public.

Pour les fournisseurs de services, cela signifie s’assurer que les systèmes d’IA répondent aux exigences du pays où ils sont déployés. Sethi a décrit cela comme l’application de la régulation nationale « entre les quatre murs du pays. »

L’emplacement des données, le contrôle des modèles et le traitement de l’information sensible font désormais partie de la discussion élargie sur la gouvernance. La souveraineté influence de plus en plus les choix d’infrastructure des organisations et les types d’IA qu’elles sont prêtes à déployer.

Bateman a mentionné que cette discussion commence aussi à émerger à travers le gouvernement. Defra détient des données distinctives sur la surveillance environnementale, ce qui soulève des questions sur la façon dont ces actifs devraient être conservés, protégés, voire classés à l’avenir.

« On n’en est qu’aux premiers jours, » a-t-elle dit, mais l’importance stratégique de ces données permettra probablement à la question de la souveraineté de prendre de l’ampleur.

La livraison commence par l’expérience utilisateur

Vers la fin de la séance, Sharp a demandé aux intervenants quelle question ils soumettraient au public élargi.

Bateman souhaitait comprendre où les autres avaient trouvé des occasions, mais aussi « quel est le plus grand défi que vous voyez à propos de ce projet? »

Wolf a dit vouloir favoriser une approche plus proche du secteur privé pour l’expérimentation des services publics : « Échouer rapidement, expérimenter, agir beaucoup plus vite. » Depuis qu’il a rejoint le secteur public, il a mentionné que son défi personnel avait été de « changer la norme ou de la mettre à l’épreuve. »

Sethi a recentré la discussion sur les personnes auxquelles les services publics sont destinés. Selon lui, les praticiens du secteur public doivent se demander s’ils comprennent vraiment l’expérience du citoyen.

« Si nous pouvons identifier ces points de friction, alors nous savons ce que nous tentons de résoudre, » a-t-il dit.

Les obstacles structurels à l’IA et aux données à grande échelle touchent la gouvernance, la rapidité de livraison, les compétences, l’architecture et la confiance du public. Les surmonter commence par une compréhension claire du résultat, de l’utilisateur et du point de friction. À partir de là, les organisations peuvent créer des environnements plus sûrs pour l’expérimentation, relier les données à la connaissance sectorielle et bâtir une gouvernance qui permet une livraison au rythme désormais exigé.