You can also download a copy of this document here.

Partie I : Résumé de la conférence internationale FARI 2022

Au début de l’été 2022, L’Institut FARI (AI for the Common Good Institute (ULB-VUB)), a organisé sa première conférence. Pendant deux jours, des décideurs politiques, des chercheurs et le grand public se sont réunis pour discuter de ce que signifie l’IA pour le bien commun et comment elle peut devenir une réalité dans la Région de Bruxelles-Capitale. Ce document contient un bref résumé de chacune des six sessions, qui ont eu lieu au Bozar.

#1 Les défis de la définition de l’IA, des données et de la robotique pour le bien commun

L’intelligence artificielle (IA) a un rythme d’innovation élevé et constitue un moteur essentiel de l’économie. Pourtant, l’IA présente une dualité claire-obscure, des avantages et des inconvénients. Le côté positif induit de grandes promesses pour relever certains des défis mondiaux les plus urgents, par exemple, optimiser la production alimentaire, réduire les déchets, prédire les maladies et favoriser l’apprentissage.

Du côté négatif, l’IA a donné lieu à un profilage ethnique aux États-Unis et en Chine, et à des soupçons injustifiés de fraude dans le versement des allocations familiales par le gouvernement néerlandais. Par ailleurs, la gouvernance des données et l’énorme consommation d’énergie suscitent des inquiétudes. Ces défis liés à l’IA s’accompagnent de nombreuses questions.

Le FARI tente de répondre à ces questions dans le contexte de Bruxelles. Mais tout d’abord, comment définir l’IA pour le bien commun ? Cela implique-t-il que nous essayions de faire autant de bien que possible avec l’IA ? Ou que les modèles d’IA doivent être bons ? Il est possible de générer du négatif avec une bonne IA ou de générer du positif pour certaines personnes avec une mauvaise IA. De même, la différence entre “IA durable” et “IA pour le développement durable” est subtile, mais distincte. En outre, il faut s’aligner sur d’autres cadres aux niveaux international, européen et local, notamment les objectifs de développement durable, Horizon Europe et la loi européenne sur les puces, et déterminer ce qui est important pour relever les défis locaux. 

FARI probeert deze vragen te beantwoorden in de Brusselse context. We moeten ons echter eerst de vraag stellen hoe we AI voor het algemeen belang kunnen definiëren? Betekent het dat we moeten proberen om het algemeen belang zo goed mogelijk te dienen met AI? Of dat de modellen voor AI goed moeten zijn? Het is mogelijk kwaad te doen met goede AI of voor bepaalde mensen goed te doen met slechte AI. Ook het verschil tussen “duurzame AI” en “AI voor duurzaamheid” is subtiel maar duidelijk. Daarnaast moet worden afgestemd op andere kaders op internationaal, Europees en lokaal niveau, zoals de Sustainable Development Goals, Horizon Europe en de European Chip Act, en moet worden uitgezocht wat belangrijk is om lokale uitdagingen aan te pakken.

Une définition concrète de l’IA, des données et de la robotique pour le bien commun n’a pas été trouvée ou donnée au cours de cette session. Pourtant, la technologie détermine la façon dont nous regardons le monde, façonne notre façon de penser et nos valeurs. Pour l’un des membres du panel, la meilleure façon de contrôler le futur est de le créer nous-mêmes, nous préférons baser ce développement technologique sur les valeurs européennes. Cependant, le paradoxe affirme que l’UE est excellente dans les sciences de l’IA, mais manque d’expertise en IA et en numérique dans l’industrie et les investissements. Pour assurer le développement de l’IA selon les valeurs de l’UE, la question la plus urgente n’est donc pas la définition d’une bonne IA, mais le besoin de compétence, de capacité, de collaboration multidisciplinaire, de financement et de diversité de l’innovation. Ce n’est qu’alors que nous aurons une influence sur la “bonne” IA, les données et la robotique, et sur l’IA, les données et la robotique pour le bien. 

#2 Initiatives internationales et locales en matière d’IA, de données et de robotique pour le bien commun.

L’IA, les données et la robotique sont conçues, développées et déployées à l’échelle mondiale. Pourtant, les environnements locaux comme les villes sont en première ligne pour faire face aux problèmes auxquels la société est confrontée tels que le changement climatique, le Covid, la mobilité urbaine, etc. Les villes ont donc joué un rôle de premier plan dans l’innovation des politiques. Pour la Région de Bruxelles-Capitale, il est important de ne pas réinventer la roue, mais d’actualiser les politiques locales, régionales et nationales en se basant sur les meilleures pratiques de villes pionnières telles que Barcelone, Montréal, Amsterdam, New York et Londres. 

En passant de la stratégie à l’action, Barcelone utilise le concept d’« humanisme technologique », qui place les citoyens avant la technologie. La discussion sur la gouvernance de l’IA est donc un débat participatif collectif qui considère qui bénéficiera ou sera menacé par l’IA. De l’autre côté de l’océan, l’équipe AI for Humanity de l’Institut québécois d’intelligence artificielle (Mila), à Montréal, a appris que la création d’une culture et d’une structure organisationnelles autour de l’IA responsable est essentielle, et que le travail interdisciplinaire est aussi indispensable que difficile. En outre, ils ont souligné que les questions d’équité, de diversité et d’inclusion doivent être intentionnelles et que le techno-solutionnisme doit être évité. 

Au cours de ce panel, les membres ont proposé des recommandations politiques pour la Région de Bruxelles-Capitale, basées sur leurs propres expériences et expertises locales. Les thèmes principaux de ces conseils étaient les suivants : 

• impliquer les parties prenantes 
• s’engager dans un travail interdisciplinaire 
• collaborer avec d’autres institutions 
• s’appuyer sur ce qui existe déjà 
• se concentrer sur la résolution de cas d’utilisation 
• communiquer sur les réussites 

La mobilisation de la communauté de l’IA est nécessaire pour résoudre les problèmes pertinents tout en relevant les défis des ensembles de données du monde réel et de la collaboration avec les experts du domaine. 

Pour revenir à la question de la définition de l’IA pour le bien commun, ce panel a parlé de l’IA responsable pour le bien et a suggéré qu’il n’y a pas d’IA pour le bien commun si elle n’est pas responsable. En outre, des questions ont été soulevées quant à savoir qui est responsable de l’échec des projets d’IA, et comment garantir que la fonctionnalité de la solution technique ne soit jamais une réflexion après coup. Les réponses à ces questions incluent la nécessité de sensibiliser le grand public et les décideurs politiques à l’IA. 

#3 L’Union européenne s’organise en matière d’IA : comment développer des systèmes d’IA dans le respect de l’État de droit ?

Contrairement à la première session, les experts juridiques de ce panel n’ont pas passé trop de temps à définir ce qu’est l’IA, mais se sont plutôt penchés sur son impact sur la société. En Europe, le droit est étroitement lié aux droits de l’homme et à l’État de droit. Cela implique que le but n’est pas de définir tous les détails, car il y a un risque d’oublier des éléments, mais de gérer certaines tensions. La loi européenne sur l’IA suit ces principes. Comme pour les autres technologies, le grand public et les praticiens du droit n’ont pas besoin de savoir comment fonctionne l’IA, mais les règles doivent s’attacher à garantir la sécurité et les droits fondamentaux. 

Le panel a donc discuté du potentiel et des lacunes de cette nouvelle loi, y compris le mélange entre les approches basées sur les droits et celles basées sur les risques, la suppression du rôle de l’infrastructure de la loi, et la manière de garantir que l’IA respecte la loi. D’autres concepts connexes ont été examinés, comme le “Privacy by Design”, où la vie privée est intégrée dans la technologie dès le début, et la conformité, ce qu’elle signifie pour les technologies d’IA et comment elle est liée à la responsabilité 

En outre, du point de vue juridique, la conception participative de l’IA et la participation civique, y compris la consultation et au-delà, sont cruciales et devraient être rendues obligatoires. De plus, il est nécessaire de mettre les documents des modèles d’IA à la disposition du grand public afin qu’ils puissent être remis en question par des groupes plus importants. Enfin, la collaboration entre les équipes et les disciplines est essentielle pour garantir une loi robuste sur l’IA 

Dans chaque cas où l’IA est utilisée, il est important de tenir compte du contexte et de s’intéresser au groupe sous-représenté. Même lorsque l’on crée des outils pour ouvrir la « boîte noire », il est important de savoir pour qui l’explicabilité est développée. D’autant que la vulnérabilité est plurielle : les personnes qui ont le plus besoin de solutions d’IA sont aussi celles qui peuvent en subir les effets les plus négatifs. 

De nombreuses questions restent ouvertes. Comment la loi sur l’IA va-t-elle garantir la bonne « conception en amont », quelles données, comment les conserver, comment les évaluer, le type d’algorithme, vérifier mathématiquement ce que fait le système, comment valider et tester par rapport à de nouvelles données ? Pourtant, de plus en plus de réglementations dans l’UE tournent autour du monde numérique (par exemple, la loi sur les marchés numériques, la loi sur les services numériques, la loi sur l’IA, etc.) Le sujet est encore très vaste. 

#4 Les robots sont-ils durables ?

La question de la durabilité de la robotique touche à de nombreux aspects différents, notamment l’environnement, l’inclusion, l’accessibilité, la capacité, la sécurité, la collaboration efficace entre l’homme et le robot, etc. Ici aussi, il existe une différence subtile entre la robotique pour la durabilité et la robotique durable. Pensez par exemple aux drones qui étudient la croissance des arbres pour mesurer le changement climatique, ou au matériel adaptatif et intelligent et à la collaboration hommerobot qui améliorent la sécurité sur le lieu de travail. Les deux ont leurs mérites et sont essentiels compte tenu des défis contemporains..

Selon l’ancien paradigme, l’ingénierie et la conception des technologies et de la robotique sont axées sur la fonctionnalité et le respect des exigences légales. Cependant, cela ne tient pas compte de la non-neutralité de la technologie et du pouvoir des concepteurs. Résoudre des problèmes difficiles à l’aide de la technologie de manière étroite peut entraîner des conséquences inattendues. Par conséquent, nous devons non seulement examiner les impacts quantifiables, mais aussi les impacts non quantifiables, notamment la vie privée, la confiance, la responsabilité et le paternalisme. En d’autres termes, l’éthique ne doit pas être une réflexion après coup.

En outre, pour créer des robots véritablement durables, il y a deux grandes considérations environnementales. Premièrement, utiliser des matériaux renouvelables dans la construction, et deuxièmement, rendre l’exploitation minière plus durable ou avec un impact minimal pour l’environnement ainsi que pour les humains. Dans cette optique, les chercheurs travaillent sur des matériaux transitoires pour les robots durables, qui sont biodégradables au maximum et ont une empreinte environnementale minimale. 

Les membres du panel ont convenu que pour garantir des résultats durables et avoir un impact positif sur la communauté, tous les aspects mentionnés ci-dessus doivent être pris en compte et qu’une vision globale de la durabilité nécessitera une formation. 

#5 Comment impliquer et mobiliser davantage les citoyens autour de l’IA, des données et de la robotique ?

Tout au long des sessions précédentes, l’implication des parties prenantes, notamment des citoyens, a été mentionnée comme un élément crucial pour le déploiement responsable de l’IA, des données et de la robotique. Au cours de la cinquième session, les membres du panel ont partagé les meilleures pratiques d’engagement des citoyens. Il s’agissait notamment de plateformes telles que la plateforme de délibération en ligne de Stanford (Standford Online Deliberation Platform) et Amai!, et de recommandations politiques créées conjointement, telles que la Déclaration de Montréal pour un développement responsable de l’IA et la Recommandation de l’UNESCO sur l’éthique de l’IA. 

Les plateformes et outils en ligne (modérés par l’IA) permettent d’impliquer de larges pans de la société. Ils encouragent les citoyens à s’engager en posant des questions, en donnant leur avis et en les mettant en contact avec des experts. En outre, les citoyens qui s’engagent dans les débats sur la plateforme de délibération en ligne de Stanford peuvent également bénéficier d’un soutien en cas de besoin, par exemple sous la forme d’une aide financière, d’une pension alimentaire, d’une aide pour les enfants, d’une assistance wifi, d’une aide alimentaire et de matériel. 

En outre, la sensibilisation du public à l’IA et aux données et la collaboration avec des diffuseurs publics permettent de créer un espace public pour discuter de ces sujets. Le projet Amai! demande aux citoyens leurs idées de solutions d’IA et leur avis sur les projets à privilégier. Ensuite, ils invitent les parties prenantes concernées à mettre en oeuvre les idées que les citoyens ont avancées. 

Au niveau politique, les citoyens peuvent être inclus en leur présentant des informations pertinentes sur l’IA et en les impliquant dans des questions sociales et politiques communes. En outre, ils peuvent être impliqués en créant des dialogues ouverts avec des experts et en leur demandant d’envisager des perspectives à long terme. Les bons facilitateurs locaux sont ici essentiels. D’une part, ils comprennent la culture et le contexte. D’autre part, ils sont bien placés pour recruter des participants locaux pour évaluer les recommandations. 

L’IA responsable n’est clairement pas réservée aux experts, toutes les parties prenantes ont un rôle à jouer. Les citoyens seront motivés à participer lorsque les résultats du processus seront clairs. Ainsi, une déclaration des citoyens, des organisations et des institutions devrait être rédigée. 

#6 Comment l’IA et les données sont-elles utilisées par et pour les villes ?

La dernière session de la première conférence FARI s’est terminée en revenant sur le rôle de l’IA, des données et de la robotique pour les villes, en particulier pour la Région de Bruxelles-Capitale. Le panel a discuté de la manière dont les villes peuvent tirer le meilleur parti de l’ère de la numérisation et de l’internet des objets, en se basant sur les exemples d’Anvers, d’Amsterdam et d’Italie. De nombreuses informations sont accessibles, elles peuvent simplement se perdre entre les différents capteurs ou se cacher dans l’énorme quantité de données. 

La session a examiné des exemples concrets tels que les villes jumelles numériques et les nuages de points en 3D. Une ville jumelle numérique est une plateforme en ligne commune qui contient des données provenant de nombreux capteurs pour capturer l’état réel de l’eau, de l’air, etc. De même, les nuages de points en 3D fournissent une vue fine de ce qui se passe en temps réel et de l’emplacement des objets dans la ville. Ces outils peuvent contribuer à l’entretien des infrastructures publiques, à la surveillance de la santé des arbres, à l’adaptation au climat et à l’accessibilité de la ville. Certaines de ces fonctionnalités sont exécutées par des algorithmes d’apprentissage profond.

Cependant, la difficulté de partager les données est un problème important. Dans le cas des villes, il existe des problèmes spécifiques liés à la recherche de données qualitatives provenant de différents contextes et régions. Le problème de la création de bons flux de données n’est pas seulement une question technique, mais aussi une question humaine et politique. Il est donc tout aussi important de renforcer les capacités humaines. En outre, si les villes intelligentes offrent de nombreuses possibilités d’améliorer la qualité de vie et de lutter contre certains problèmes urbains, leur forte consommation d’énergie est préoccupante. Lors de la conception ou du déploiement de ces outils, la question centrale est la suivante : comment cette IA peut-elle être utilisée au service de la population et du bien commun ? 

Néanmoins, l’utilisation d’une ville jumelle numérique et de nuages de points en 3D fournit une riche source de données, une carte précise des zones publiques, et permet de suivre les besoins et les problèmes réels qui peuvent aider à prendre des décisions politiques bien informées. En outre, la création de cartes participatives implique de fournir des informations en temps réel aux utilisateurs, en particulier aux femmes, afin qu’ils puissent naviguer dans les espaces publics pour leur sécurité, leur mobilité et leur santé. 

Partie II : Recommandations politiques pour la Région de Bruxelles-Capitale

Introduction

Dans tous les secteurs et toutes les régions, l’intelligence artificielle (IA), les données et la robotique prennent une place importante dans le façonnement de nos économies et de nos sociétés. Dans ce contexte, il est crucial pour la Région de Bruxelles-Capitale de créer une politique globale en matière d’IA afin d’exploiter au mieux leurs possibilités et de gérer leurs pièges potentiels. De nombreuses autres régions urbaines et institutions de recherche travaillent sur ces sujets et sont prêtes à partager leurs expériences et leurs connaissances. En outre, l’expertise en matière d’IA et de gouvernance est présente “en interne”, à la fois dans les universités bruxelloises et à l’Institut FARI. En effet, la Région bruxelloise est bien placée pour créer une législation et des cadres permettant de garantir une IA responsable, tant dans le secteur privé que public. 

Compte tenu de la dualité claire-obscure de l’IA, des données et de la robotique, les politiques qui les régissent sont cruciales, en particulier pour une région urbaine telle que Bruxelles, où les avantages et les inconvénients de l’IA peuvent se manifester. L’utilisation de l’IA doit donc correspondre à sa fonction et ne pas dépasser ce qui est nécessaire pour les atteindre. Elle doit être considérée comme un facilitateur, et non comme une solution. La question est la suivante : comment définir l’adéquation à la fonction ? 

Au niveau européen, la Commission finalise actuellement une loi sur l’IA qui adopte une approche basée sur les risques. Cette loi aura un impact sur tous les niveaux politiques et créera un cadre pour la gouvernance de l’IA. Néanmoins, les régions ont un rôle important à jouer pour transposer cela dans leur contexte local. Il est important de noter que le développement d’une politique d’IA étendue ne se limite pas à la signature d’une charte, mais constitue un engagement à accroître la culture de l’IA, à gouverner avec les parties prenantes, à déterminer la responsabilité, à insister sur la collaboration multi et interdisciplinaire et à permettre les flux de données. 

Les recommandations

Sur la base de toutes les perspectives locales et internationales sur l’IA dans les villes, voici les principales priorités pour Bruxelles identifiées par le comité d’observateurs.

Sensibiliser et éduquer à l’IA 

Pour créer une politique globale en matière d’IA, il est essentiel de commencer par sensibiliser et développer une compréhension et un langage communs concernant les technologies d’IA. Ensuite, la relation entre les différentes facettes de l’IA et les impacts directs et indirects peut être discutée. Ces débats peuvent avoir lieu, par exemple, dans le cadre d’un “Brussels’ Challenge”, où des questions cruciales concernant l’IA et les problèmes qui lui sont liés sont abordées et traitées au sein des communautés locales. 

Gouverner avec les différentes parties prenantes, y compris les citoyens 

le concept de “localisme de l’IA” appelle à calibrer les algorithmes et les politiques d’IA en fonction des circonstances locales, de sorte que les décideurs politiques aient plus de chances de créer des boucles de rétroaction positives qui se traduiront par une plus grande efficacité et une plus grande responsabilité. Bruxelles doit montrer la voie en matière de conception participative des politiques et d’engagement civique soutenu pour identifier les besoins réels des citoyens (en s’inspirant des exemples de Stanford et de l’AMAI). Il s’agit également de coordonner les parties prenantes et de recueillir les points de vue de tous, notamment des communautés marginalisées. En d’autres termes, il est nécessaire d’encourager une approche inclusive pour garantir le développement d’applications et de systèmes adéquats. 

Déterminer la responsabilité de l’IA 

Les nouvelles technologies s’accompagnent de nouvelles responsabilités. Il convient d’ouvrir des débats et de favoriser la collaboration pour déterminer qui est responsable des échecs potentiels. Qui sera protégé par les politiques en matière d’IA ? La loi européenne sur l’IA est un bon début, mais qu’est-ce que cela signifie pour la Région de Bruxelles-Capitale ? Conformément à la recommandation précédente, les débats autour de ces questions devraient impliquer diverses parties prenantes telles que les citoyens, les entreprises, les associations civiques, les autorités locales, les universités, etc. 

Insister sur la collaboration multi et interdisciplinaire à tous les niveaux 

Ce point est aussi essentiel que difficile. Même au sein d’un même projet ou d’une même institution, des personnes issues d’horizons et de disciplines différents doivent évaluer les différentes étapes du développement d’un outil d’IA. La collaboration multi et interdisciplinaire doit être encouragée entre les différentes équipes et parties prenantes, ainsi qu’entre les différents niveaux de gouvernance (local, régional, fédéral, international). 

Permettre les flux de données 

Pour construire des technologies performantes et responsables (IA), les données sont essentielles. La collecte de données est cependant encore désordonnée, de nombreux partenaires conservant leurs données ou ne sachant pas comment en tirer le meilleur parti. La Région de Bruxelles-Capitale peut jouer un rôle crucial en facilitant les flux de données de manière responsable, tout en relevant les défis des ensembles de données du monde réel et de la collaboration avec les experts du domaine.

Et encore une fois, “ne pas réinventer la roue” 

De nombreuses autres régions et institutions ont mis en place des lignes directrices, des principes, des réglementations et des leçons en matière d’IA. Ils pourraient être utilisés pour entamer une conversation avec les parties prenantes et les partenaires concernés à Bruxelles. Il n’est pas nécessaire de partir d’une page blanche, la Région de Bruxelles-Capitale devrait réutiliser et adapter les éléments existants. Regardez, par exemple, ce que font les villes pionnières comme Amsterdam, Barcelone, Copenhague, Helsinki et Montréal, ainsi que les documents et principes de GovLab/NYU et de l’UNESCO sur la façon de créer une IA responsable (politiques). 

Conclusion

Le contexte bruxellois exige l’intégration de différents plans politiques, y compris les plans régionaux actuels d’innovation et d’infrastructure. Ceux-ci comprennent d’importants marchés publics que les autorités publiques peuvent utiliser comme outil pour gouverner et influencer le développement de l’IA. En outre, la transparence est essentielle et pourrait être renforcée par la création d’un registre d’algorithmes à l’échelle régionale, comme à Amsterdam et à Copenhague. S’engager dans ce qui précède devrait conduire à un développement plus responsable et souhaitable des technologies de l’IA, des données et de la robotique au service du bien commun.