* Tanscription en Français, traduction automatique *

[Musique]

Voici le podcast Raumdigital, le podcast sur la numérisation dans le développement durable des villes et des localités.

[Musique]

Zurich a récemment été à nouveau élue ville la plus intelligente du monde et l'IA y joue bien sûr un rôle important.

Je me réjouis aujourd'hui de pouvoir jeter un coup d'œil dans les coulisses de l'application de l'IA à la ville de Zurich.

J'ai le plaisir d'accueillir Paul Mayrath à cette occasion.

Il est Senior Digital Transformation Consultant de la ville de Zurich et l'un des experts de la numérisation et de l'IA en Suisse.

Paul, bienvenue dans ce podcast et merci de nous permettre de parler de l'application de l'IA ici, à l'hôtel de ville de Zurich.

Merci pour l'invitation, ça me fait très plaisir.

Commençons donc par les applications de l'IA dans la ville de Zurich.

Où l'IA est-elle déjà utilisée de manière productive ?

Nous avons quelques petits cas d'application que nous avions déjà, donc avant JGPT, c'est-à-dire de la bonne vieille IA d'apprentissage automatique, par exemple dans le domaine fiscal.

Certes, c'est un peu le classique des applications de l'IA dans l'administration.

Nous ne sommes pas les seuls à le faire, des cantons, comme Nidwald ou Berne, ont de telles applications qui fonctionnent de manière productive.

On peut bien sûr imaginer que c'est une très bonne chose, dans la mesure où nous disposons d'un très grand nombre de données et que nous pouvons identifier des modèles assez facilement.

Ce n'est pas si simple.

Ce sont de grands projets à réaliser, ce sont des projets de science des données.

Et maintenant, bien sûr, depuis l'émergence de l'IA générative, nous sommes encore en train d'identifier de nouveaux cas d'utilisation.

Et peux-tu citer encore quelques cas d'utilisation qui sont soit déjà en application productive, soit encore en exploitation pilote, pour que l'on puisse se représenter comment vous utilisez l'IA ?

Là aussi, nous faisons probablement la même chose que tous les autres, parce que c'est ce qui est le plus évident, la gestion des connaissances, c'est-à-dire de grandes bases de données de connaissances, que ce soit un manuel pour quelque chose ou un manuel Hermès, par exemple méthode de gestion de projet, dont on peut s'inspirer.

C'est un meilleur Ctrl-F, c'est peut-être un peu péjoratif de le dire, mais il n'est pas toujours facile de s'orienter dans des bases de connaissances aussi vastes.

C'est là qu'il est certainement d'une grande aide, mais il y a bien sûr d'autres domaines d'application auxquels nous pensons.

Nous avons des sujets de transcription sur la table.

Nous envisageons le triage des contenus, que ce soit maintenant dans le domaine du courrier.

Le spectre est donc relativement large.

Et est-ce que vous faites aussi quelque chose dans le domaine de la reconnaissance et de l'évaluation d'images ?

Nous avons des choses, je dois dire que je n'y suis pas très impliqué, mais c'est bien sûr un sujet dans le domaine de la maintenance prédictive.

Il y a toutefois un projet du canton dans le bac à sable de l'innovation.

Ils ont fait quelque chose comme ça, couplé à des images de drones.

En fait, cela fonctionne déjà très bien.

Je pense à nos entreprises industrielles ou à nos installations de traitement des déchets, il y a certainement un certain potentiel. Mais je ne peux pas dire exactement où l'on se situe.

Existe-t-il un aperçu des endroits où l'IA est utilisée dans la ville ?

Ou s'agit-il maintenant d'un savoir issu de ton activité, que tu as ramené de différents départements ?

Nous sommes également en train de créer un registre, en tenant compte du fait que le Conseil fédéral a annoncé qu'un projet de consultation serait prêt d'ici fin 2026.

Cela durera encore un peu, jusqu'à ce que nous devions également rendre cela obligatoire.

Mais c'est de toute façon quelque chose que nous voulons faire en tant que ville, pour que nous puissions apprendre les uns des autres.

Nous voyons que le service A fait quelque chose dans le domaine du triage de courrier, ce qui intéresse peut-être aussi 20 autres services.

Ou des sujets de transcription, ce sont les sujets très répandus.

Et puis il y a des cas d'utilisation très spécialisés qui n'ont vraiment de sens que pour un seul service.

Et pourtant, il est judicieux de savoir ce que fait l'un, ce que fait l'autre et surtout, où l'on est en train de construire son savoir ?

Comme je l'ai dit, il y avait déjà de l'IA avant GPT et pourtant, maintenant, l'acquisition de connaissances au cours des deux ou trois dernières années, la courbe d'apprentissage est très raide.

Nous avons de très nombreux spécialistes qui s'en occupent.

Et ce sont des personnes très bien formées, avec des antécédents appropriés.

Beaucoup de connaissances sont en train de se développer.

Et réunir les connaissances, c'est l'un des éléments qui permet de savoir où sont les cas d'utilisation.

Je reviendrai volontiers sur la question de la réglementation plus tard.

Maintenant, j'aimerais rester encore un peu sur la voie de l'innovation.

Si j'ai bien compris, le développement n'est pas centralisé, mais décentralisé à partir des différents départements ?

Est-ce exact ?

Il y a des aspects centraux et il y a des aspects décentralisés.

Ce qu'il faut dire pour l'administration dans son ensemble, en prenant l'exemple de la ville de Zurich, toutes les grandes administrations en Suisse sont plus ou moins structurées de la même manière.

Nous avons 68 départements de service dans la ville de Zurich.

Et ils font des choses aussi différentes que d'offrir des places dans les crèches ou de faire du travail de police ou des services de santé qui s'occupent des arbres, etc.

Le spectre est donc très large.

Il est donc logique qu'ils assument la responsabilité dans leur domaine respectif.

Néanmoins, il existe également une informatique centrale.

Et l'informatique centrale est là pour fournir des services de base.

Et dans le domaine de l'IA en particulier, il est très important que nous puissions également mettre à disposition les services de base de manière coordonnée.

Des sujets tels que la sécurité de l'information, la protection des données, etc.

sont plus faciles à gérer si nous les contrôlons d'une manière ou d'une autre de manière centralisée.

Ce n'est pas toujours facile d'effectuer une telle coordination.

Il y a des départements qui, de par leur taille, ont un personnel différent de celui des petits départements.

Ils peuvent aller plus vite, ils sont peut-être aussi plus intéressés.

Nous avons un service qui est, je dirais, très en avance.

Donc globalement aussi par rapport à l'économie privée.

Ils font beaucoup de choses, de très bonnes choses.

Et puis nous avons des petits départements de service, 20, 30, 40 collaborateurs.

Ils font autre chose au quotidien.

Ils ont leurs opérations et ils n'ont pas forcément quelqu'un qui peut s'occuper de sujets d'innovation à long terme.

Et de trouver cet équilibre, également à partir de la centrale, à qui on offre quoi, aux avancés, on regarde tout ce qu'ils font pour apprendre de lui et peut-être amener le transfert vers les autres.

Et tu viens de laisser tomber le sujet de l'approche sandbox.

Est-ce ainsi, l'approche consistant à créer un cadre sécurisé pour de telles applications, afin de pouvoir essayer quelque chose ?

Donc l'approche Sandbox, ils l'ont dans le canton de Zurich, pas dans la ville de Zurich.

Et dans le canton de Zurich, c'est un instrument qu'ils font à partir de la promotion économique.

Et cela s'adresse certes aussi à des cas d'utilisation spécifiques à l'administration, mais surtout à des cas d'utilisation externes, c'est-à-dire à des cas d'utilisation du secteur privé.

Ce qui est bien sûr clair dans l'administration, c'est que nous avons un besoin très prononcé de sécurité.

Que nous ne fassions pas quelque chose qui ne serait pas en ordre du point de vue de la sécurité des données ou des informations. En conséquence, les cas d'utilisation et les preuves de concept, ainsi que tout ce que nous faisons actuellement, sont un peu freinés par le frein à main.

Et un grand thème est que nous sommes actuellement en train d'acquérir l'infrastructure pour pouvoir le faire nous-mêmes.

Donc, que nous le fassions en circuit fermé dans le sens d'une sandbox, que nous ayons les puces dans notre centre de données, que nous ayons des modèles open source pour que nous puissions garder la main sur le circuit des données.

Et quels sont alors les points de départ de ces cas d'utilisation ?

S'agit-il d'analyses stratégiques ? S'agit-il d'un problème quotidien ?

Ou s'agit-il aussi d'entreprises qui vous approchent de l'extérieur pour vendre des outils ?

Depuis le siège, nous nous préoccupons de savoir ce qui est utile à tous.

Ou, compte tenu des ressources limitées, quels sont les cas d'utilisation qui nous apportent le plus d'avantages ?

Et c'est donc tout naturellement que nous voulons proposer un GPT de société, un GPT de chat interne.

Les médias viennent de révéler qu'un test de ce type est en cours depuis six mois déjà au niveau fédéral.

Ils ont visiblement eu la même idée.

Ou des idées comme la transcription ou des choses comme ça qui ont vraiment un spectre d'application.

Et puis viennent les cas d'utilisation spécifiques des départements de service.

Les cas d'utilisation sont alors très spécifiques à ce que fait le service.

Et cela nécessite aussi beaucoup de savoir-faire professionnel.

Ou alors il faut savoir ce qu'ils font ici au quotidien ?

C'est comme tout projet de numérisation.

On peut certes accompagner cela depuis l'informatique, l'accompagner sur le plan technique, mais sur le plan du contenu, on a toujours besoin des gens des départements spécialisés.

Et là, bien sûr, le sujet est que les gens des départements spécialisés sont très différents les uns des autres.

Comme je l'ai dit plus tôt, il a des départements de service très affinitaires en matière de technologie.

Lorsque l'on se déplace dans des entreprises industrielles, leur activité est très technique et technologique.

C'est pourquoi ils sont très affinitaires.

Et puis il y a d'autres départements de service dont l'activité n'est pas forcément axée sur la technologie.

Pendant ce temps, il y a des composants technologiques partout.

C'est la belle transformation numérique.

Et les départements de service ou les thèmes qui sont déjà plus techniques, ce sont en effet ceux qui, en règle générale, traitent des données depuis longtemps et qui ont aussi de grandes bases de données.

C'est bien sûr différent d'être sur des sujets où l'on doit d'abord se demander quelles sont les données dont je dispose ?

Où puis-je rendre les processus plus numériques et les soutenir ensuite avec l'IA et les données ?

Exactement. Le thème des données est très important pour moi en ce moment.

Je viens de terminer ma dernière lettre d'information sur la maîtrise des données pour tous.

Et j'essaie de prêcher dans tous les services où je me rends.

Quand vous parlez d'IA, vous devriez d'abord parler de données.

Quelles données avez-vous ? Que signifient les données pour vous ?

Comment gérez-vous vos données ? Et ainsi de suite.

J'ai justement organisé la semaine dernière un très bon atelier où, de manière assez ludique, nous avions pour objectif à la fin de créer un fourmillement de données.

Pour que nous puissions visualiser, ne serait-ce que dans le sens d'une sensibilisation, d'où viennent nos données, que font nos données ?

Un atelier très productif, qui - nous avons certes un tableau d'affichage, mais ce qui est encore plus important, c'est ce qu'étaient les discussions, où nous identifions les problèmes avec les données.

Et sur cette base, j'ai le sentiment que dans ce service spécifique, je peux effectivement faire un projet d'IA beaucoup plus solide l'année prochaine.

Et puis il y a des départements de service, la notion de données est très abstraite pour eux.

Si vous avez des départements de service dont les données sont principalement des documents Word ou des tableaux Excel, ils ne les associent pas à des données. Ce sont des documents.

Et qu'il faut faire des dépôts de données de manière intelligente ou des choses comme ça, c'est un peu difficile.

Dans l'administration, les cadres ont généralement fait des études et la question se pose alors de savoir ce qu'ils ont étudié.

Et si tu as fait quelque chose de très spécifique aux sciences humaines, tu auras en général beaucoup moins de rapport avec ce que les données peuvent faire.

Si tu as fait des études de physique, les données sont ce qui t'a fait avancer tout au long de tes études.

Je partage donc tout à fait l'avis selon lequel si nous parlons d'IA, nous devons d'abord parler de données, car c'est la base.

Sinon, nous faisons les produits que nous connaissons avec Chat-GPT et faisons maintenant avec l'IA ce que nous faisions auparavant de manière analogique ou semi-analogique.

C'est pourquoi je trouve passionnant de regarder avec l'objet caché, non pas les processus, mais quelles données nous avons et donc de réfléchir à la manière dont nous nous organisons.

C'est vraiment une approche passionnante.

Puisque nous parlons de données, parlons un peu de protection des données.

Avec plaisir.

Pourquoi la protection des données dans le contexte de l'IA est-elle un sujet aussi important, en particulier pour une ville ?

Je suis juriste de formation.

C'est pourquoi j'ai une affinité particulière pour les questions juridiques et une affinité particulière pour la protection des données en général.

Avant de travailler dans l'administration, j'étais également responsable de la protection des données dans mon service.

En fin de compte, il s'agit de droits fondamentaux, et les droits fondamentaux sont importants.

Dans South Park, on dirait que les droits fondamentaux sont importants, dans le KÄ, on peut dire ça.

Les droits fondamentaux sont d'autant plus importants pour l'administration.

Si nous, justement, ne traitons pas les données personnelles comme nous devrions le faire, imaginez les données de la police et celles des autorités sociales, les réunir n'est pas forcément dans l'esprit de l'inventeur.

C'est le cas d'école.

Nous ne voulons pas que les autorités policières puissent accéder aux données relatives aux retraits de l'aide sociale.

Inversement, c'est logique, parfaitement logique.

Si nous disons cela dans le contexte de l'IA, cela a deux fois plus de sens que le grand défi que nous avons maintenant, et ce n'est en fait pas seulement depuis GPT ou l'IA dans son ensemble, c'est que nous avons entre-temps tellement d'outils grand public à disposition, qui sont facilement accessibles via le navigateur.

Que ce soit Deeple, que ce soit n'importe quoi, tous ces outils qui peuvent apporter un grand soulagement au quotidien.

Il faut alors se poser la question de savoir ce qui se passe là-bas ?

Quelles données y saisis-tu ?

Le dommage immédiat, si j'ai saisi un nom de personne avec une quelconque autre indication sur Deeple, est sans doute très faible.

Mais c'est une question fondamentale.

On le fait ou pas ?

Comment sensibiliser nos collaborateurs ?

Que faisons-nous sur le plan réglementaire et technique pour maîtriser ce phénomène ?

Et bien sûr, les gens sont des gens.

Je ne pourrais pas dire que nous pouvons garantir qu'il ne se passe jamais rien.

On ne peut pas le garantir.

Il est néanmoins important que nous fassions tout ce qui est humainement possible pour garder le contrôle de la situation.

La protection des données serait sans doute heureuse de cette déclaration.

Pour mon premier épisode, j'étais dans le canton d'Uri.

Il y a aussi été question de données, de numérisation et d'intelligence artificielle.

Markus Frösch a raconté que lors d'un hackathon, vous avez pris les nouvelles du canton et les avez quasiment traitées avec l'IA.

Ils ont constaté que les données sont certes publiques, mais que les modèles que l'IA a identifiés à partir de celles-ci, les personnes qui apparaissent particulièrement souvent, les applications qu'elles font, les ont tout de même effrayés.

Il ne s'agissait pas d'un lien intentionnel, mais d'un lien ludique dans le cadre d'un hackathon.

Mais c'était alors pour vous le point, attendez, ce n'est pas ce qui était avant sur le papier, c'est maintenant avec l'IA, mais je dois rappeler exactement cette dimension que tu as décrite.

Le sujet est très complexe.

Dans nos lignes directrices sur ce sujet, nous avons également recommandé une prudence particulière en ce qui concerne les données anonymisées.

Déjà Udi, cette phrase le montre clairement.

En fait, on pourrait partir du principe que les données anonymisées sont justement anonymisées.

Mais même les données anonymisées permettent, dans certaines circonstances, de tirer des conclusions.

Cela montre que ce n'est pas tout à fait trivial.

Laisser cela à la responsabilité de chaque collaborateur est justement aussi un thème.

Est-ce possible, la responsabilité ?

Je dirais qu'avec un bagage juridique plus important, je peux plus ou moins estimer si c'est correct ou non dans un cas particulier.

Mais c'est justement pour ça que ça commence.

Plus ou moins ?

Moi, en tant que juriste, si une personne est, je ne sais pas, soignante, elle n'a peut-être pas la même sensibilité sur le sujet.

Te souviens-tu d'un moment où la question de la protection des données vous a obligés à faire une pause ?

Et qu'à la fin, vous vous êtes rendu compte que c'était la bonne chose à faire, que nous sommes maintenant à un autre niveau ?

Je peux dire, et cela sera certainement le cas de tous les collaborateurs de l'administration en Suisse ou probablement dans le monde entier, que la protection des données est un goulot d'étranglement.

Un contrôle de la protection des données, chez nous c'est ce qu'on appelle le processus ISDS, sécurité de l'information et sécurité des données, c'est exigeant.

Et encore une fois, justement les gens dont j'ai parlé tout à l'heure, qui ne sont peut-être pas forcément aussi affinitaires, ils ont un peu peur de le faire parce que c'est une matière relativement exigeante.

Et puis les personnes qui doivent aussi vérifier cela, leurs ressources sont limitées.

Et pourtant, nous avons de tels processus qui doivent garantir qu'aucune application correspondante ne trouve le chemin de la production.

Et oui, je dirais que beaucoup de choses qui n'auraient pas été en ordre ont été évitées, ce qui permet de conclure qu'un tel processus permet de garantir le niveau de protection des données.

Bien sûr, je souhaiterais personnellement que nous ayons plus de capacités dans ce processus afin de pouvoir encore mieux l'accompagner.

D'une manière générale, je suis d'avis qu'il faut davantage d'expertise juridique dans le domaine de la numérisation.

Donc, il faut plus de gens et il faut aussi plus de gens qui ont des compétences numériques, plus de juristes qui comprennent comment fonctionne un tel projet.

Il y a de très bons exemples, par exemple le canton de Zurich.

Ils ont créé un legal hub et ont décentralisé dans toutes les directions des juristes avec des compétences numériques qui peuvent accompagner les projets de numérisation.

Et c'est voulu, c'est accompagné d'un tableau des effectifs.

Il existe dans le canton, je ne sais pas exactement comment cela s'appelle, un arrêté du Conseil d'Etat ou quelque chose comme ça, qui prévoit cela avec des postes prévus à cet effet.

Il s'agit d'un accompagnement juridique institutionnalisé des projets.

Je trouve cela très judicieux.

Je pense qu'à l'avenir, nous devrions penser davantage dans cette direction au sein de l'administration.

En d'autres termes, que la protection des données ne devienne pas un goulot d'étranglement de l'innovation, mais qu'elle l'accompagne.

Exactement, simplement un sujet parmi d'autres.

De la même manière qu'il faut faire le financement, de la même manière qu'on est la faisabilité technique, qu'est-ce qu'on fait pour la protection des données ?

Dans la grande majorité des cas, la protection des données n'est pas un obstacle.

La protection des données est tout simplement un sujet, comment gérons-nous cela ?

Que devons-nous faire pour garantir la protection des données ?

Ou peut-être exclurons-nous à nouveau une partie du cas d'utilisation pour pouvoir le faire ?

Ce genre de choses.

Je ne pense pas que la protection des données soit une mauvaise chose en soi, ni qu'elle soit un obstacle aux projets, mais simplement qu'il s'agit d'un sujet dont il faut impérativement tenir compte.

Justement dans l'administration.

En fait, même en dehors de l'administration.

Mais je parle maintenant en premier lieu pour l'administration, où nous devons certainement avoir une affinité particulière.

Nous en sommes déjà au thème de la réglementation du Conseil fédéral, qui veut précisément établir cet équilibre, cette réglementation, entre fixer des limites et permettre l'innovation.

En tant que juriste, pourrais-tu expliquer brièvement ce que l'état des lieux de la réglementation de l'intelligence artificielle, ce que le Conseil fédéral y a interprété et quelle est maintenant la voie à suivre ?

Je ne suis plus juriste depuis longtemps, c'est pourquoi je n'aurais pas la prétention d'expliquer cela très correctement sur le plan juridique.

Néanmoins, ce que le Conseil fédéral a annoncé, c'est que nous voulons préserver la force d'innovation de la Suisse, ce qui signifie le moins de réglementation possible.

Deuxièmement, nous voulons respecter les droits de l'homme, ce qui signifie tout de même un peu de réglementation.

Voyons quelle réglementation.

Et puis aussi renforcer l'acceptation de la population, des choses de l'IA.

Je ne sais pas non plus ce que cela signifie exactement.

Mais les deux premiers points sont pertinents en ce sens.

En ce qui concerne la réglementation, ce qui a été annoncé, c'est la signature de la convention du Conseil de l'Europe.

Cela nous concerne en premier lieu dans l'administration.

C'est certainement un aspect très important pour nous.

C'est également une bonne chose dans la mesure où nous disposons désormais de conditions-cadres.

Pour ceux qui ne sont pas très au fait, que dit la convention du Conseil de l'Europe concernant l'IA ?

Quelles sont les conditions-cadres ?

Respect des droits de l'homme, respect des droits fondamentaux, donc en particulier protection des données et thèmes de discrimination.

Il y aura aussi une obligation de transparence, d'une manière ou d'une autre.

Il reste à voir comment cela sera mis en place.

Mais il s'agira probablement d'au moins un registre.

Il reste à voir comment le registre sera développé.

Que ce soit simplement un registre par lequel l'IA est utilisée ou que ce soit une transparence par laquelle l'IA est utilisée.

Que fait l'IA ? À quelles données accède-t-elle ?

Comment a-t-elle été entraînée ? L'avenir nous le dira.

Comment aborder la question de la protection contre la discrimination, je ne sais pas.

Je serais bien sûr très favorable à ce que nous coulions le plus de thèmes possible dans des structures existantes.

Par exemple, que les autorités de protection des données aient un rôle qui en tienne compte.

Cela semblerait évident.

Ils ont déjà beaucoup d'affinités avec le thème ansonsten.

Ce sont en fait les principaux composants que nous avons là.

En plus de la réglementation que nous avons maintenant avec la signature de la Convention du Conseil de l'Europe, nous aurons encore une réglementation sectorielle.

En Suisse, il y a déjà différents domaines où il existe des approches de régulation.

sectorielle, que ce soit dans les finances bien sûr.

La FINMA a déjà émis des recommandations à ce sujet avant cet état des lieux.

Elles seront certainement très pertinentes sur la place bancaire suisse.

Il y a dans le domaine de la conduite autonome, donc dans les transports publics, des thèmes qui sont pertinents.

L'infrastructure critique sera pertinente.

Dans le domaine de la santé, il y aura des thèmes

Le besoin de régulation que nous allons voir maintenant avec l'IA, je pense qu'il est un peu sous-estimé parce que le sujet est tellement vaste.

Si je regarde l'analyse juridique que vous avez faite en parallèle à cet état des lieux, je constate que tous les thèmes sont abordés.

Entre-temps, des interventions ont également été faites au Parlement, comme on l'a entendu la semaine dernière.

Le Conseil des Etats souhaite protéger la population contre les deepfakes.

Ce sont toujours des ballons d'essai individuels qui sortent.

On peut alors se demander s'il faut une régulation générale de tout.

Je trouve l'approche de la Suisse déjà assez pragmatique.

Mais cela impliquera déjà beaucoup de travail et de nombreuses adaptations individuelles des lois existantes.

Pour nous, en tant qu'administration, nous avons les thèmes centraux qui proviennent de la Convention du Conseil de l'Europe, néanmoins, les adaptations sectorielles seront également pertinentes pour nous au cas par cas.

Quand je parle de conduite autonome, c'est très pertinent pour nos transports publics.

Aurons-nous bientôt des trams ou des bus autopropulsés, ou quoi que ce soit d'autre ?

Est-ce que nous avons le droit de penser dans cette direction ou pas ?

Ce sont des sujets sur la manière dont nous, en tant qu'administration, parvenons, comme je l'ai mentionné tout à l'heure, administration organisée de manière décentralisée, administration très diversifiée, à garder une vue d'ensemble, à faire en sorte que rien ne nous échappe.

Il y a les entreprises de transports publics, donc les VBZ, je ne doute pas une seconde qu'elles maîtrisent parfaitement la situation.

Tous les services en ont-ils ?

Je ne sais pas, je ne peux pas le dire comme ça.

Le thème de la régulation, de l'utilisation responsable de l'IA, est certainement un thème qui nous occupera beaucoup en tant qu'hommes et femmes de la numérisation dans l'administration, mais qui occupera également les juristes dans les années à venir.

Je me réjouis de pouvoir en faire partie, car je peux jeter un pont entre les deux mondes.

Donc ce mélange de réglementation horizontale pour les conventions du Conseil de l'Europe, simplement encore une fois les bases, et ensuite les différentes réglementations sectorielles.

Je regarde cela du point de vue de ma profession, l'aménagement du territoire, qui a aussi une orientation transversale.

Et en fait, c'est exactement ce que tu viens de décrire qui entre.

Il s'agit des données relatives au trafic, mais aussi de la question des données relatives à l'espace social dans la planification, et maintenant, avec le changement climatique, de plus en plus de thèmes relatifs à la santé, que nous avons précisément cet arc dans l'aménagement du territoire et que nous sommes en fait confrontés à la question de savoir ce que signifie maintenant la réglementation horizontale, la réglementation verticale pour nous en tant que branche ?

Exactement, et si tu veux faire un projet dans ce domaine, tu es bien avisé, au sens propre du terme, d'avoir à tes côtés un ou une juriste qui puisse tout classer, qui sache tout ce qui est réglementé, dans quels domaines et où.

Et c'est une spécialisation que nous allons voir maintenant.

Donc quand on parle de l'IA qui va nous prendre nos emplois, non, l'IA va changer nos emplois, très probablement.

Et c'est justement dans le domaine juridique que les choses vont changer, car il y a de nouveaux domaines qui doivent être réglementés.

Donc les gens qui étaient déjà dans le droit de la technologie ont maintenant un nouveau terrain de jeu qui s'ouvre, où ils peuvent s'épanouir en termes positifs, où ils doivent encore se familiariser en termes négatifs et où, dans l'idéal, ils doivent aussi marquer le domaine.

Je suis sûr que c'est aussi un sujet de discussion, n'est-ce pas ?

Nous avons aussi besoin de personnes qui comprennent de quoi il s'agit.

Je sais qu'ils en ont une à la Confédération, donc plusieurs juristes, mais j'en connais une en particulier qui est très compétente.

Et elle est très compétente en ce sens qu'elle est non seulement une très bonne juriste, mais qu'elle comprend aussi ce que cela signifie sur le plan technologique.

Et cette combinaison ne va pas de soi.

Ainsi, les juristes ne sont pas connus pour être le groupe professionnel le plus progressiste.

Ce n'est pas du tout négatif.

Ils ont des conditions très différentes de ce qu'ils doivent gérer dans leur vie quotidienne.

Et en plus de la compétence juridique en matière de données, de la compréhension technique, il faut aussi la troisième dimension.

De quoi s'agit-il en réalité ? Que faut-il régler sur le plan matériel ?

Et comment peut-on régler les processus et les compétences, le cas échéant, différemment, de manière à ce que nous ne numérisions pas simplement les processus existants, mais aussi des processus axés sur la protection des données et sur l'IA et, en fin de compte, sur un meilleur résultat ?

Exactement, oui. Donc un travail exigeant.

Faut-il alors une réglementation spécifique pour toutes les branches qui ont une telle orientation transversale ?

Ou s'agit-il aussi d'avoir une intégration intelligente dans d'autres réglementations ?

Ce sera le grand défi.

On pourrait dire que l'on préfère faire les choses le plus simplement possible, de la manière la plus générale possible et dans une loi.

Et on se retrouve avec un EU-EI-Act qui s'est finalement avéré plus compliqué que prévu.

Ou alors, on se penche sur les besoins et les circonstances spécifiques qui ont lieu dans un secteur spécifique.

Et si nous sommes maintenant en Suisse, avec le fédéralisme et la manière dont nous sommes organisés politiquement, il y aura des intérêts particuliers et des branches qui voudront se faire réguler ou justement ne pas se faire réguler.

Et ils auront de l'influence et il y aura des interventions.

Je pense qu'en Suisse, et ce n'est pas négatif, nous aurons plutôt une réglementation de type patchwork, très spécifique aux besoins de certains secteurs.

C'est pourquoi je salue personnellement le fait que nous ayons, dans l'administration, du moins pour l'administration générale, une affaire aussi horizontale avec la convention du Conseil de l'Europe.

Alors nous pouvons déjà donner le ton dans l'administration.

Comment cela se passe ensuite vis-à-vis de l'extérieur, je veux dire, les thèmes des droits de l'homme et la reconnaissance faciale biométrique dans les épiceries, je ne sais pas si cela a un sens, si on ne réglemente pas cela, comme cela est réglementé dans l'UE.

C'est finalement une question politique, où il y a deux ou trois ans, nous avons vu les CFF installer des caméras à reconnaissance faciale dans leurs gares, alors qu'ils ne voulaient pas faire de reconnaissance faciale, du moins la déclaration officielle, mais le tollé a été grand.

Ce ne sont pas des sujets qui sont totalement hors de propos d'un point de vue social.

Les gens s'y intéressent, les gens veulent savoir si cela se passe ou non.

Quand je pense que je vais entrer dans une épicerie et que l'on va prendre une photo biométrique de moi et scanner mes mouvements pour voir s'il y a quelque chose d'anormal, je ne sais pas si c'est vraiment ce que je veux.

Personnellement, je vais alors dans l'autre supermarché.

Bien sûr, si on a le choix, on l'a.

Mais lorsqu'il s'agit d'entreprises semi-publiques comme les CFF, si je veux utiliser les transports publics, je suis tributaire des CFF.

Exactement. Je ne sais pas comment la réglementation s'appliquerait à un CFF.

Mais il est évident que pour les choses souveraines, la réglementation intervient et que pour d'autres choses, la réglementation sectorielle veut intervenir.

Il y a encore beaucoup de choses qui ne sont pas claires.

Il n'y a pas que chez nous qu'il y a relativement beaucoup de choses qui ne sont pas claires.

Toute la question de la réglementation et de la gouvernance se pose à l'échelle mondiale.

Nous l'avons vu avec la nouvelle administration américaine.

Premier jour de travail, la réglementation est abolie

Nous ferons alors une audition auprès des groupes intéressés, c'est-à-dire des entreprises technologiques, pour savoir comment ils souhaitent voir les choses.

Nous voyons dans le monde entier le thème de la réglementation.

Comment allons-nous gérer cela ?

Comment voulons-nous encourager, permettre l'innovation d'une part ?

Pour des États aussi grands que les États-Unis et la Chine, cela prend une autre dimension que pour nous en tant que Suisse.

En Suisse, nous avons un grand besoin d'innovation, car nous avons justement l'EPFZ sur le site de Zurich, mais aussi de nombreux grands groupes.

Nous sommes certainement un hotspot d'IA, on peut le dire.

Nous ne voulons pas supprimer cela.

Cela a bien sûr aussi des intérêts économiques très concrets pour nous, qui sont sous-jacents.

Et sans compter, je peux le dire car je travaille dans ce domaine, que c'est aussi follement passionnant.

Les possibilités de progrès que cela peut représenter dans tant de domaines sont immenses.

Et pourtant, il y a des possibilités et des risques.

Et les risques, les reconnaître, bien les évaluer, bien les classer, veiller à ce que nous les maîtrisions, tel sera le grand défi des cinq ou six prochaines années.

Nous avons maintenant mené cette discussion sur les chances et les risques d'une part au niveau institutionnel, c'est le thème de la réglementation, qu'est-ce qui doit être réglementé dans quelle branche et comment.

Et l'autre partie de cette évaluation des chances et des risques est, comme tu l'as déjà mentionné, l'individu lui-même, comment il ou elle gère cela de manière responsable.

Si je tape actuellement IA et ville de Zurich, j'obtiens une longue liste de mesures de formation continue qui apparaissent en tête de liste pour la ville de Zurich.

Cela signifie que vous travaillez aussi sur le thème de la qualification des collaborateurs, du moins si j'ai interrogé l'Internet ces derniers jours.

J'en suis très heureux, cela me surprend.

Oui, bien sûr que nous le faisons, je suis personnellement très impliqué dans ces mesures de formation continue.

C'est un défi, nous avons 28 000 collaborateurs, d'atteindre cette masse et de le faire de manière décente.

On pourrait simplement faire le blanchiment rapide, n'importe quelle vidéo en ligne, c'est bon, ça ne suffit pas.

Les gens, j'en suis convaincu, doivent prendre le temps de se consacrer à ce sujet.

Et ce n'est pas toujours facile dans le quotidien professionnel.

Le cliché du soignant paresseux qui ne fait rien, le 9 à 5, ne correspond pas à la réalité que je vois.

Les gens ont des choses à faire au quotidien, et beaucoup de choses à faire.

Tout ce qu'une administration réalise en Suisse, tous les services rendus à la population, c'est énorme.

Et ce sont des employés qui travaillent.

Les sortir de leurs activités opérationnelles pour faire ça, c'est déjà un défi en soi et pour soi.

Et nous faisons beaucoup de choses, nous avons vraiment une offre très large entre-temps, et nous continuons à travailler.

Nous avons aussi des postes de formation continue chez nous, en ville.

Vu notre taille, c'est logique, dans la mesure où nous voulons vraiment transmettre une grande palette de compétences.

Mais là aussi, nous n'en sommes qu'au début.

Bien sûr, on pouvait déjà aborder les thèmes de l'IA avant GED/GPT, mais nous étions alors plutôt dans le domaine spécialisé, dans le domaine de la connaissance des données.

A l'époque, cela intéressait aussi plutôt des personnes très spécialisées.

Et maintenant, nous sommes dans un domaine où nous devons proposer de telles offres éducatives.

Après avoir examiné tout ce qui existe sur le marché - nous ne devons pas toujours tout faire nous-mêmes s'il existait déjà quelque chose - mais après avoir constaté que dans le contexte de l'administration, ce qui est spécifique à l'administration est très pertinent, nous avons décidé d'utiliser la méthode de l'auto-évaluation.

Donc, à commencer par les sujets de réglementation, la sensibilisation particulière à la protection des données, etc. est très importante.

Nous sommes donc arrivés à la conclusion que nous devions faire nous-mêmes nos offres de formation.

On se dit alors que c'est ce que fait l'administration du canton, ce que fait l'administration de la Confédération, ce que fait l'administration de l'autre grande ville.

Il serait donc logique que nous nous mettions d'accord en Suisse sur ce que nous voulons faire.

Je ne sais pas combien il y a de 10'000 collaborateurs dans l'administration en Suisse.

Mais si l'on sait comment les compétences numériques ont été transmises jusqu'à présent, il y a toujours eu de nombreuses très belles initiatives, il faut le dire, des partenaires EGOF, par exemple dans le canton de Zurich, où le canton doit également faire des offres pour les communes.

C'est là qu'il faut actionner le levier.

En tant que ville de Zurich, nous sommes en mesure de faire quelque chose comme ça nous-mêmes, car nous avons la taille critique.

Nous avons des spécialistes de la formation continue, nous avons des spécialistes comme moi qui peuvent alors également transmettre le contenu.

Ensuite, tu as des communes plus petites, je n'ai pas besoin de citer des noms, mais chaque petite commune qui n'a pas 28'000 collaborateurs n'a pas forcément sa propre possibilité de formation continue.

Et comment font-ils ?

Ce sera le grand sujet.

Si le Conseil fédéral dit dans l'ordonnance sur la prolongation que nous voulons sensibiliser la population et aller chercher la compréhension et les craintes, etc., c'est peut-être aussi parce qu'il faut mettre en place une offre de formation continue.

Et pour finir, sur ce sujet.

La semaine dernière, la Confédération a publié sa stratégie en matière d'IA, c'est-à-dire la stratégie interne à la Confédération.

Et en fait, l'axe principal de cette stratégie est la formation, la formation, la formation.

Mise en réseau des acteurs et formation continue.

On voit bien qu'il y a un centre de gravité.

La seule réserve que je fais à ce sujet, c'est qu'on pourrait se parler un peu plus.

Maintenant, avec le canton, j'ai de très bons contacts.

Nous voyons ce qu'ils font.

Nous leur montrons ce que nous faisons.

Ils nous montrent que c'est ainsi que l'on peut apprendre les uns des autres.

Ils ont des choses spécifiques qui sont pour le canton, que nous ne pouvons pas prendre en charge, comme nous avons pour la ville.

C'est certainement logique.

Il n'est pas nécessaire de le réinventer à chaque fois.

Les offres de formation continue sont-elles destinées à tous les collaborateurs ?

Ou avez-vous des formations continues spécifiques pour les cadres, pour les questions techniques ?

Nous avons une offre de formation continue modulaire.

La pièce maîtresse est, à mon avis, l'offre destinée aux collaborateurs.

Dans la mesure où les cadres sont aussi des collaborateurs.

Dans ce cas, ce sont aussi des cadres.

Mais c'est exactement ce que nous avons aussi, un module IA au sein de la direction, donc plusieurs.

Il y a une offre de sonorisation frontale, donc pas frontale, mais une offre plutôt scolaire qui est proposée.

Ensuite, il y a aussi des formats d'ateliers.

Je l'ai développé pour que l'on se penche concrètement, au sein d'une direction, sur ce que l'IA signifie pour moi.

Donc pour mon entreprise, mon service concrètement.

Quel que soit le service.

Pour chaque service, cela signifie en fin de compte quelque chose de différent.

Mais ce qui en résulte est généralement la même chose.

En ce sens, il faut faire de la sensibilisation, il faut que la direction se mette d'accord sur le fait que oui, nous voulons rendre l'IA utilisable chez nous d'une manière ou d'une autre.

Nous voulons rendre le sujet tangible pour nous d'une manière ou d'une autre.

Cela signifie que nous avons aussi besoin de quelqu'un chez nous qui s'en occupe, qui puisse faire le lien avec l'informatique centrale.

Donc toutes les choses qui sont faites de manière transversale, que nous en soyons informés.

C'est un sujet.

Sensibilisation, formation continue, et puis la thématique : comment rassembler nos cas d'utilisation, c'est-à-dire nos idées, d'une manière ou d'une autre ?

Et comment apprenons-nous celles que nous devons ensuite mettre en œuvre ?

Parce que des idées, il y en a beaucoup.

Et quelles sont celles qui sont vraiment utiles compte tenu des ressources limitées, c'est un grand sujet, un très grand sujet.

Et comment faites-vous ?

Si je peux me permettre de poser une question aussi concrète, où se situe le tri entre une application pilote passionnante et quelque chose dont tu dis qu'elle est prête à être utilisée au quotidien ?

C'est une question de maturité.

Comment réussir cette courbe d'apprentissage ?

Et au début, toute organisation, indépendamment du service ou de la ville entière, y va presque inévitablement avec un peu d'impétuosité.

Et fait, ce qui a aussi du sens, fait quelque chose.

C'est un phénomène que l'on observe partout.

J'ai suivi une formation continue l'automne dernier.

Dans l'économie des données, c'était exactement la même chose que chez nous.

Tout le monde a fait des sortes de rack cases.

Qu'ils aient été les plus judicieux ou non, cela reste à voir.

Il y en a certainement eu de très utiles, et d'autres dont les attentes étaient trop élevées.

L'exemple poussé à l'extrême consiste à plaquer un GPT quelconque sur l'intranet, et le chaos de l'intranet est réglé.

Non, ce n'est pas si simple.

Nous savons que c'est justement avec des bases de données aussi importantes que le suivi de ces bots est très coûteux.

Et en fait, le projet ne commence qu'une fois qu'il est réellement terminé.

Et que les profils des rôles évoluent également.

La personne qui faisait le travail jusqu'à présent s'occupe désormais du bot.

Donc changer les profils des rôles.

Mais c'est justement sur la base de ces expériences que l'on a dû faire pour savoir que, ah, non, c'est bien la panacée.

On n'y arrivera pas.

Nous ne sommes pas encore en mesure de mettre en œuvre un tel projet.

Peut-être que les Googles de ce monde ou les Galaxus ou les entreprises de ce monde vraiment axées sur la technologie y parviendront.

Mais nous n'y sommes peut-être pas encore.

Sur la courbe de maturité, nous n'y sommes pas encore.

Et pourtant, plus le temps passe, plus on trouve des critères qui permettent de dire, ok, ça a du sens.

Il peut s'agir de critères, de quelles données s'agit-il ?

Données non problématiques, données plus problématiques.

Peut déjà être un triage.

Il peut être, quel est le cercle d'utilité ?

Large cercle d'utilisateurs, petit cercle d'utilisateurs.

Cercle d'utilisateurs techniquement affinitaires, non techniquement affinitaires.

C'est aussi une question que je me pose lorsque je lâche un bot sur des personnes qui n'ont aucune idée de la manière d'écrire une invite à peu près décente.

Il ne faut alors pas s'étonner que le bot ne fonctionne pas vraiment.

Alors ce n'est pas le bot, ce n'est pas la préparation de la base de connaissances, mais c'est parce que les gens ne savent pas comment sortir les informations qui les intéressent.

Et à la fin, le cas d'utilisation qui ne convient pas vraiment.

Exactement. Et c'est pour cela que la définition des critères est un défi en soi.

Cela nécessite une expertise technique.

Et cette expertise technique est certainement l'un des points sur lesquels je pense qu'un échange interdépartemental, c'est-à-dire à l'échelle de la ville, entre les spécialistes techniques est important, afin qu'ils puissent également partager cette expérience.

Parce que sinon, on est vraiment toujours très enfermé dans sa bulle et peut-être que nous ne devons pas tous faire les mêmes erreurs 68 fois.

C'est certainement le cas.

J'ai développé un modèle de maturité à partir de Kai.

De mon point de vue, le plus important dans le modèle de maturité, ce sont les dimensions que nous avons là.

Nous avons la stratégie, la gouvernance, les personnes, la formation continue, etc.

Mais pour les cas d'utilisation de l'organisation, de la technologie, il y a différents niveaux de maturité, et là, il n'y a pas de raccourci.

Il faut passer par là.

Quand j'entends, dans le secteur privé, que tous les cas d'utilisation sur différents modèles, c'est-à-dire des modèles on-prem, des modèles propriétaires, différents modèles, 4.0, 4.1, sont donnés en général, non seulement en fonction de la performance, mais aussi des coûts, ils sont technologiquement à un autre endroit que nous le sommes.

Nous réfléchissons à ce que sont les bons modèles open source en général.

On va mettre quelque chose dessus.

C'est bien, c'est ce qui convient à notre maturité actuelle.

Mais notre courbe d'apprentissage est un peu, nous n'avons pas encore atteint le sommet.

C'est vrai, je le partagerais.

Mais les entreprises que tu as mentionnées, situées dans la partie supérieure de la courbe d'apprentissage, ont souvent des problèmes beaucoup plus simples.

Une administration municipale est en effet beaucoup plus complexe et dans la délimitation des cas d'utilisation que si je prenais une entreprise technologique.

Je ne pense pas.

Je suis actuellement dans un jury pour le Gen AI Award et je vois ce que cela comporte comme cas d'utilisation.

Bien sûr, je ne vais pas les mentionner maintenant, car je suis membre du jury.

Pourtant, il existe quelques cas d'utilisation qui, à première vue, paraissent extrêmement simples.

Ensuite, le résultat est ce qui se passe dans la salle des machines et ce qui y est fait n'est pas du tout facile.

Ils sont simplement capables de le faire pour que cela paraisse simple et que le résultat soit recraché à l'avant.

Mais je ne pense pas que les cas d'application soient fondamentalement plus simples dans le secteur privé que dans l'administration.

Nous avons un peu plus de densité réglementaire peut-être en arrière-plan.

Mais comme je l'ai dit, nous avons 68 départements de service.

Chacun fait un travail très spécifique.

En fin de compte, si j'ai un département culturel ou une administration financière, c'est l'administration financière qui s'occupe des questions financières.

Alors, elle est en fait dans le même bateau qu'une banque.

Ils font de la comptabilité, ils font du contrôle de gestion.

Ensuite, nous avons des cas d'utilisation dans le contrôle de gestion.

Qu'il s'agisse d'un controlling administratif ou d'un controlling d'une grande banque, ce n'est plus si différent sur le plan technique.

Sur le plan technique, je suis d'accord avec toi, mais dans le secteur privé, nous sommes... Nous venons de le voir avec les différents détaillants, où je peux alors dire : je prends celui-ci ou je prends celui-là ?

Nous remarquons qu'en tant que consommateurs, nous sommes également amenés à nous familiariser avec les processus des entreprises et que les choses y sont plus simples.

Je pense que c'est nettement plus difficile dans une administration de dire que les citoyens doivent maintenant se comporter de telle manière pour que cela s'intègre bien dans les processus.

Là, l'exigence est plutôt l'idée de service, que l'on s'adapte aux exigences des citoyens.

Oui, donc nous avons maintenant le thème du centrage sur l'utilisateur, qui est tout en haut de l'agenda.

Nous avons également martelé cela maintenant dans les processus, pour ainsi dire, donc cela doit maintenant être pris en compte.

C'est une bonne chose.

Nous avons de très bons designers de services* qui ont fait avancer les choses.

C'est certainement une chose.

On peut prendre un exemple, nous avons le VEVV, l'ordonnance sur les procédures électroniques dans le canton de Zurich, où nous devons maintenant offrir des accès numériques pour nos procédures.

Dans une phase de transition, nous devrons encore proposer aux gens la voie papier.

Et puis un jour, quand, viendra le moment, dans quelques années, où nous pourrons changer cela.

Cela signifie que nous avons certainement des délais plus longs jusqu'à ce que nous puissions vraiment faire ces choses uniquement par voie numérique ou uniquement par IA.

Tôt ou tard, je pense déjà que les gens se sont habitués chez nous à ce que ce soit la manière d'interagir.

Quand je vois mon fils de 15 ans qui me dit où est le site web, respectivement où est l'application, où est le bouton sur lequel je peux appuyer.

Non, tu dois télécharger le formulaire et le remplir, puis le scanner et l'envoyer.

Il ne comprend pas.

Plus nous nous y déplacerons, plus nous le ferons aussi dans l'administration.

Mais là où je suis certainement d'accord avec toi, c'est que c'est même une obligation pour les entreprises privées de le faire, parce que sinon, si elles ne le font pas aussi efficacement qu'elles pourraient le faire, elles vont tout simplement disparaître dans la concurrence.

Et ce qui est certainement aussi un facteur, c'est qu'une entreprise privée peut réagir rapidement.

Dans la mesure où tu as une entreprise qui dit que Gen AI sort en novembre 2022, en janvier 2023, nous mettons 24 personnes sur le coup, elles le font maintenant. Point final.

Et nous voulons obtenir les premiers résultats d'ici l'été.

Chez nous, il y a un tableau des effectifs.

Et les personnes qui doivent le faire doivent figurer quelque part dans un tableau des effectifs.

Et bien sûr, on peut détacher une ou deux personnes qui ont déjà eu affaire à l'innovation par ailleurs.

Mais si on veut vraiment l'institutionnaliser, il faut passer par le rythme de l'administration, le budgétiser et le faire approuver politiquement.

Cela signifie que nous avons de toute façon déjà un ou deux ans de retard.

Si tu fais une rétrospective de cet entretien dans dix ans et que tu regardes l'état actuel de l'utilisation de l'IA dans la ville de Zurich, qu'est-ce qui te surprendrait le plus ?

Jusqu'où Zurich est allée en dix ans ou combien tout le monde a été hésitant ?

Je suis très positif à ce sujet.

Bien sûr, en tant que personne directement impliquée, on souhaiterait toujours que les choses aillent encore plus vite.

Je pense qu'en tant qu'administration, nous sommes très bien placés en tant que ville de Zurich.

Nous avons des dirigeants qui reconnaissent très bien que c'est un sujet de préoccupation.

En fait, je n'entre plus dans une direction où l'on me dit que cela ne nous concerne pas.

Il y a peut-être des directions qui disent : je ne sais pas encore exactement comment gérer cela.

Je suis là pour ça, pour donner une orientation.

Mais en règle générale, quelque chose est alors fait.

Nous disposons d'une infrastructure informatique solide.

Nous avons un bon cadre juridique.

Je suis en fait très confiant dans le fait que nous allons bien démarrer.

On peut dire ça.

Si je regarde en arrière, dans dix ans, je serai très fermement impliqué dans le sujet.

Cela me procure également une grande joie.

Je dirais que je me réjouis de regarder en arrière dans dix ans et de dire que j'ai moi aussi contribué à ce que nous en soyons arrivés là.

Oui, Paul, merci beaucoup pour cet entretien.

On pourra toujours réécouter dans dix ans.

J'en serais très heureux. Merci beaucoup aussi.

Merci de m'avoir écouté.

Tu trouveras de plus amples informations dans les shownotes.

N'hésite pas à consulter le blog, raumdigital.ost.ch.

Si tu connais des projets intéressants ou des invités passionnants, n'hésite pas à m'écrire. Je me réjouis de tes commentaires.

[Musique]