You can also download a copy of this document here.

Deel I: Samenvatting van de internationale conferentie FARI 2022

Aan het begin van de zomer van 2022 organiseerde FARI – AI for the Common Good Institute (ULB-VUB) zijn eerste conferentie. Gedurende twee dagen kwamen beleidsmakers, onderzoekers en het grote publiek samen om te bespreken wat AI for the Common Good betekent en hoe het werkelijkheid kan worden in het Brussels Hoofdstedelijk Gewest. Dit document bevat een korte samenvatting voor elk van de zes sessies, die plaatsvonden in Bozar.

#1 De uitdagingen van het definiëren van AI, data en robotica voor het algemeen belang

Artificiële intelligentie (AI) heeft een hoog innovatietempo en is een belangrijke motor van de economie. Toch bevat AI een clair-obscur dualiteit, een heldere en een donkere kant. Aan de heldere kant vinden we allerlei beloften om een aantal van de meest dringende mondiale uitdagingen aan te pakken, zoals het optimaliseren van de voedselproductie, het minimaliseren van afval, het voorspellen van ziekten en het ondersteunen van het leren.

Aan de schaduwzijde heeft AI onder andere geleid tot etnische profilering in de VS en in China, en onterechte verdenking van fraude bij de uitbetaling van de kinderbijslag door de Nederlandse overheid. Ook het beheer van gegevens en het enorme energieverbruik baren zorgen. Deze uitdagingen rond AI gaan gepaard met vele vragen.

FARI probeert deze vragen te beantwoorden in de Brusselse context. We moeten ons echter eerst de vraag stellen hoe we AI voor het algemeen belang kunnen definiëren? Betekent het dat we moeten proberen om het algemeen belang zo goed mogelijk te dienen met AI? Of dat de modellen voor AI goed moeten zijn? Het is mogelijk kwaad te doen met goede AI of voor bepaalde mensen goed te doen met slechte AI. Ook het verschil tussen “duurzame AI” en “AI voor duurzaamheid” is subtiel maar duidelijk. Daarnaast moet worden afgestemd op andere kaders op internationaal, Europees en lokaal niveau, zoals de Sustainable Development Goals, Horizon Europe en de European Chip Act, en moet worden uitgezocht wat belangrijk is om lokale uitdagingen aan te pakken.

Een concrete definitie van AI, Data en Robotics for the Common Good werd tijdens deze sessie niet gevonden of gegeven. Toch bepaalt technologie hoe we naar de wereld kijken, vormt het onze manier van denken en onze waarden. Voor een van de panelleden is de beste manier om de toekomst te beheersen haar zelf te creëren. We baseren deze technologische ontwikkeling liever op Europese waarden. De paradox bevestigt echter dat de EU uitstekend is in de wetenschap rond AI, maar heeft een gebrek aan digitale en AI expertise in industrie en investeringen. Om de ontwikkeling van AI in overeenstemming met de waarden van de EU te garanderen, is de meest dringende kwestie dus niet de definitie van goede AI, maar de behoefte aan competentie, capaciteit, multidisciplinaire samenwerking, financiering en diversifiëring in innovatie. Enkel dan kunnen we een invloed hebben op ‘Goede’ AI, data en robotica, en AI, data en robotica ten goede aanwenden.

#2 Internationale en lokale initiatieven in AI, data en robotica voor het algemeen belang

AI, data en robotica worden op mondiaal niveau ontworpen, ontwikkeld en ingezet. Toch lopen lokale omgevingen zoals steden voorop bij het aanpakken van de problemen waarmee de samenleving wordt geconfronteerd, zoals klimaatverandering, het coronavirus, stedelijke mobiliteit, enz. Steden hebben daarom een leidende rol gespeeld bij de innovatie van het beleid. Als Brussels Hoofdstedelijk Gewest is het belangrijk het wiel niet opnieuw uit te vinden, maar het lokale, regionale en nationale beleid te actualiseren op basis van de beste praktijken van pionierssteden zoals Barcelona, Montreal, Amsterdam, New York en Londen.

Barcelona hanteert het concept “technologisch humanisme”, dat mensen boven technologie stelt. De discussie rond het besturen van AI is dus een collectief en participatief debat waarin wordt nagegaan wie van AI profiteert of er gevaar door loopt. Aan de andere kant van de oceaan leerde het team van AI for Humanity van Mila – Québec Artificial Intelligence Institute in Montreal dat het creëren van een organisatiecultuur en -structuur rond verantwoorde AI essentieel is, en dat interdisciplinair werk moeilijk maar essentieel is. Verder benadrukten zij dat zaken als gelijkheid, diversiteit en inclusie bewust moeten worden aangepakt en dat technosolutionisme moet worden vermeden.

Tijdens dit panel gaven de leden beleidsaanbevelingen voor het Brussels Hoofdstedelijk Gewest op basis van hun eigen lokale ervaringen en expertise. Enkele overkoepelende thema’s van het advies waren:

• het betrekken van belanghebbenden
• interdisciplinair werken
• samenwerken met andere instellingen
• voortbouwen op wat al bestaat
• focussen op het oplossen van relevante use cases
• communiceren over successen

Mobilisation of the AI community is needed to solve relevant issues while embracing the challenges of real-world datasets and collaboration with experts in the field.

De gemeenschap van de AI moet worden gemobiliseerd om relevante problemen op te lossen en tegelijkertijd de uitdagingen van realistische datasets en samenwerking met deskundigen ter zake het hoofd te bieden.

Het panel keerde ook terug naar de vraag over de definitie van AI voor het algemeen belang. De leden discussieerden over verantwoorde AI voor het algemeen belang en suggereerden dat er geen AI voor het algemeen belang is als het niet verantwoord is. Bovendien werden er vragen gesteld over wie de verantwoordelijkheid voor het falen van projecten rond AI moet opnemen en hoe ervoor gezorgd kan worden dat de functionaliteit van de technische oplossing nooit een bijzaak is. De antwoorden op die vragen luiden onder meer dat het grote publiek en de beleidsmakers bewuster moeten worden gemaakt van AI.

#3 De EU krijgt haar AI Act op orde: Hoe kun je op AI gebaseerde systemen ontwikkelen in het kader van de rechtsstaat?

In tegenstelling tot de eerste sessie besteedden de juristen in dit panel niet te veel tijd aan het definiëren van wat AI is, maar keken zij meer naar de impact ervan op de samenleving. In Europa is het recht nauw verbonden met de mensenrechten en de rechtsstaat. Dit houdt in dat het doel niet is om alle details te definiëren, aangezien het risico bestaat dat dingen worden vergeten, maar om bepaalde spanningen te beheersen. De wet op de AI van de EU volgt deze beginselen. Net als bij andere technologieën hoeven het grote publiek en rechtsbeoefenaars niet te weten hoe AI werkt, maar moeten de regels gericht zijn op het waarborgen van veiligheid en grondrechten.

Het panel besprak daarom de mogelijkheden en tekortkomingen van deze nieuwe wet, waaronder de mix tussen een op rechten gebaseerde en een op risico’s gebaseerde aanpak, het schrappen van de rol van de infrastructuur en de vraag hoe ervoor kan worden gezorgd dat AI zich aan de wet houdt. Andere verwante concepten die werden onderzocht, waren “privacy by design” (waarbij privacy vanaf het begin in de technologie is ingebouwd) en conformiteit (wat dit betekent voor technologieën gebaseerd op AI en hoe het zich verhoudt tot verantwoordingsplicht).

Voorts zijn, vanuit juridisch oogpunt, een participatief ontwerp voor AI en de burgerparticipatie (met inbegrip van raadpleging maar ook ruimer bekeken) cruciaal. Dit moet dus verplicht gemaakt worden. Bovendien moeten de documenten rond modellen van AI beschikbaar gemaakt worden voor het ruimere publiek, zodat ze door grotere groepen kunnen worden aangevochten. Tenslotte is samenwerking tussen teams en disciplines essentieel voor een robuuste wet op AI.

In alle gevallen waarin AI wordt gebruikt, is het belangrijk om rekening te houden met de context en te kijken naar de ondervertegenwoordigde groep. Zelfs wanneer instrumenten worden ontwikkeld om de “zwarte doos” te openen, is het belangrijk te weten aan wie alles uitgelegd wordt, zeker omdat mensen vaak in verschillende opzichten kwetsbaar zijn, zodat de mensen die het meest behoefte hebben aan oplossingen op basis van AI ook degenen zijn die de meeste negatieve effecten kunnen ondervinden.

Er zijn heel wat onbeantwoorde vragen. Hoe gaat de wet op AI zorgen voor het juiste “upstream design:” welke gegevens; hoe kunnen ze geconserveerd en gebenchmarkt worden; welk soort algoritme; wiskundig verifiëren wat het systeem doet; hoe valideren en testen aan de hand van nieuwe gegevens? Toch draait steeds meer regelgeving in de EU om de digitale wereld (bijvoorbeeld de Verordening inzake digitale markten, Wet inzake digitale diensten, Wet op de AI enzovoort). Het onderwerp blijft relevant.

#4 Zijn robots duurzaam?

De kwestie van duurzaamheid van robotica raakt aan veel verschillende aspecten zoals milieu, inclusiviteit, toegankelijkheid, capaciteit, veiligheid, effectieve samenwerking tussen mens en robot, en nog veel meer. Ook hier is er een subtiel verschil tussen robotica voor duurzaamheid en duurzame robotica. We kunnen hier bijvoorbeeld denken aan drones die de groei van bomen vastleggen om klimaatverandering te meten, of adaptieve en slimme hardware en samenwerking tussen mens en robot om de veiligheid van de werkplek te verbeteren. Beide hebben hun verdiensten en zijn essentieel gezien de hedendaagse uitdagingen.

Het oude paradigma stelt dat de techniek en het ontwerpen van technologie en robotica draaien om functionaliteit en het voldoen aan wettelijke eisen. Dit gaat echter voorbij aan het feit dat technologie niet neutraal is en aan de macht van de ontwerpers. Moeilijke problemen oplossen met technologie in de enge zin kan onbedoelde gevolgen hebben. Daarom moeten we niet alleen kijken naar de kwantificeerbare harde gevolgen, maar ook naar de zachte gevolgen, zoals privacy, vertrouwen, verantwoordelijkheid en paternalisme. Ethiek mag in andere woorden geen bijzaak zijn.

Om echt duurzame robots te maken, zijn er bovendien twee belangrijke milieuoverwegingen. Ten eerste moet bij de bouw gebruik worden gemaakt van hernieuwbare materialen. Ten tweede moet de mijnbouw duurzamer worden of met minimale kosten voor mens en milieu. In dit verband werken onderzoekers aan vergankelijke materialen voor duurzame robots, die maximaal biologisch afbreekbaar zijn en een minimale ecologische voetafdruk hebben.

De leden van het panel waren het erover eens dat voor duurzame resultaten en een positief effect op de gemeenschap alle bovengenoemde aspecten in aanmerking moeten worden genomen en dat een alomvattende visie op duurzaamheid, training in nieuwe vaardigheden vereist

#5 Hoe kunnen we burgers meer betrekken en mobiliseren rond AI, data en robotica?

Tijdens de vorige sessies werd de betrokkenheid van belanghebbenden, met name burgers, genoemd als een cruciaal element voor de verantwoorde inzet van AI, data en robotica. Tijdens de vijfde sessie deelden de panelleden best practices van burgerbetrokkenheid. Voorbeelden daarvan zijn platforms zoals het Stanford Online Deliberation Platform en Amai!, en gezamenlijk opgestelde beleidsaanbevelingen zoals de Verklaring van Montreal voor een verantwoorde ontwikkeling van AI en de aanbevelingen van UNESCO over ethiek rond AI.

Online platforms en instrumenten die door AI gemodereerd worden, kunnen grote delen van de samenleving bij het proces betrekken. Ze moedigen de betrokkenheid van het publiek aan door vragen te stellen, feedback te geven en hen in contact te brengen met deskundigen. Bovendien kunnen burgers die deelnemen aan de debatten op het Stanford Online Deliberation Platform ook steun krijgen wanneer dat nodig is, bijvoorbeeld financiële steun, kinderbijslag, wifiboosters, een voedselrantsoen en materiaal.

Bovendien creëren een groter publiek bewustzijn rond AI en data en de samenwerking met publieke omroepen een publieke ruimte waarin deze onderwerpen besproken kunnen worden. Het project “Amai!” doet dit door burgers te vragen naar hun ideeën voor oplossingen gebaseerd op AI en naar hun mening over welke projecten prioriteit moeten krijgen. Vervolgens nodigen ze relevante belanghebbenden uit om de ideeën die burgers gedeeld hebben uit te voeren.

Op beleidsniveau kunnen burgers worden betrokken door hen relevante informatie over AI te verstrekken en hen te betrekken bij gemeenschappelijke sociale en politieke vraagstukken. Daarnaast kunnen ze worden betrokken door de dialoog met deskundigen aan te gaan en hen te vragen naar perspectieven op lange termijn. Goede lokale facilitatoren zijn hierbij van cruciaal belang. Enerzijds begrijpen zij de cultuur en de context. Anderzijds zijn zij goed geplaatst om lokale deelnemers aan te trekken om de aanbevelingen te evalueren.

Verantwoorde AI is duidelijk niet alleen voorbehouden aan deskundigen. Alle belanghebbenden kunnen een bijdrage leveren. Burgers willen graag deelnemen wanneer de resultaten van het proces duidelijk zijn. Er zou dan een verklaring van burgers, organisaties en instellingen opgesteld moeten worden.

#6 Hoe worden AI en data gebruikt door en voor steden?

De laatste sessie van de eerste FARI-conferentie werd afgesloten met een terugblik op de rol van AI, data en robotica voor steden, in het bijzonder voor het Brussels Hoofdstedelijk Gewest. Het panel besprak hoe steden optimaal kunnen profiteren van het tijdperk van de digitalisering en het internet van de dingen aan de hand van voorbeelden uit Antwerpen, Amsterdam en Italië. Er is veel informatie beschikbaar. Het gevaar bestaat echter dat ze verloren gaat tussen de verschillende sensoren of verstopt geraakt in de enorme hoeveelheid gegevens.

Tijdens de sessie werd gekeken naar concrete voorbeelden zoals digitale tweelingsteden en 3D-puntenwolken. Een digitale tweelingstad is een gemeenschappelijk online platform dat gegevens van vele sensoren bij elkaar brengt om zo de werkelijke toestand van water, lucht, enz. vast te leggen. 3D-puntenwolken geven op hun beurt een fijnmazig beeld van wat er in realtime gebeurt en waar dingen zich in de stad bevinden. Deze instrumenten kunnen het onderhoud van openbare infrastructuur, het toezicht op de gezondheid van bomen, klimaatadaptatie en de toegankelijkheid van de stad ondersteunen. Sommige van deze functies worden uitgevoerd door algoritmen op basis van deep learning.

Een probleem waarmee we daarbij geconfronteerd worden, is echter de moeilijkheid om gegevens te delen. In het geval van de steden zijn er specifieke problemen met het vinden van kwalitatieve gegevens uit verschillende contexten en regio’s. Dit probleem met betrekking tot de opbouw van goede gegevensstromen is niet alleen een technische, maar ook een menselijke en politieke kwestie. Daarom is capaciteitsopbouw bij mensen even belangrijk. Hoewel slimme steden veel mogelijkheden bieden om de levenskwaliteit te verbeteren en bepaalde stedelijke problemen aan te pakken, is het hoge energieverbruik problematisch. Bij het ontwerpen of inzetten van deze instrumenten is de centrale vraag: hoe kan deze AI worden ingezet voor de mens en het algemeen belang?

Toch levert het gebruik van een digitale tweelingsteden en 3D-puntenwolken een rijke gegevensbron op, een nauwkeurige kaart van de openbare ruimte. Hiermee kunnen reële behoeften en problemen opgevolgd worden zodat op beleidsniveau goed geïnformeerde beslissingen genomen kunnen worden. Bovendien kunnen gebruikers, en vooral vrouwen, de openbare ruimte gezamenlijk in kaart brengen zodat ze in realtime informatie kunnen krijgen en zich veilig kunnen verplaatsen.

Deel II: Beleidsaanbevelingen voor het Brussels Hoofdstedelijk Gewest

Inleiding

In alle sectoren en regio’s spelen artificiële intelligentie (AI), data en robotica een belangrijke rol bij de vormgeving van onze economieën en samenlevingen. In deze context is het van essentieel belang dat het Brussels Hoofdstedelijk Gewest een alomvattend AI-beleid uitwerkt om de vruchten ervan te plukken en potentiële valkuilen te vermijden. Vele andere stedelijke regio’s en onderzoeksinstellingen werken aan deze onderwerpen en zijn bereid hun ervaringen en inzichten te delen. Bovendien is expertise op het gebied van AI en het beheer ervan intern beschikbaar, zowel in de Brusselse universiteiten als bij het FARI-instituut. Het Brussels Gewest is immers goed geplaatst om wetgeving en kaders te creëren die een verantwoorde AI garanderen, zowel in de particuliere als in de openbare sector.

Gezien de clair-obscur dualiteit van AI, data en robotica is het beleid ter zake cruciaal, vooral voor een stedelijke regio zoals Brussel waar de licht- en schaduwzijde van AI zich kunnen manifesteren. Het gebruik van AI moet daarom passen bij de functie ervan en niet verder gaan dan wat nodig is om de gestelde doelen te bereiken. AI, data en robotica moeten worden beschouwd als middelen, niet als oplossingen. De vraag is: hoe definiëren we “geschikt om het doel te bereiken”?

Op Europees niveau legt de Commissie momenteel de laatste hand aan een AI-wet die uitgaat van een op risico gebaseerde aanpak. Dit zal gevolgen hebben voor alle beleidsniveaus en een kader creëren voor het beheer van AI. Voor de regio’s is echter een belangrijke rol weggelegd wanneer ze dit naar hun lokale context vertalen. Daarbij is het van belang dat de ontwikkeling van een uitgebreid beleid inzake AI niet alleen de ondertekening van een handvest inhoudt, maar ook een verbintenis om de kennis van AI te vergroten, samen met belanghebbenden te besturen, de verantwoordingsplicht vast te leggen, aan te dringen op multi-en interdisciplinaire samenwerking en gegevensstromen mogelijk te maken.

De aanbevelingen

Op basis van alle lokale en internationale visies op AI in steden zijn dit de belangrijkste prioriteiten voor Brussel die door het comité van waarnemers zijn vastgesteld.

Bewustmaking en kennis van AI

Om een alomvattend beleid inzake AI tot stand te brengen is het van cruciaal belang eerst het bewustzijn te vergroten en een gemeenschappelijk begrip en gemeenschappelijke taal te ontwikkelen met betrekking tot technologieën die gebruik maken van AI. Vervolgens kan het verband tussen de verschillende facetten van AI met hun rechtstreekse en onrechtstreekse gevolgen worden besproken. Deze debatten kunnen bijvoorbeeld plaatsvinden via een Brussels Challenge waarbij kritische vragen rond AI en aanverwante kwesties in lokale gemeenschappen worden besproken en aangepakt.

Besturen met verschillende belanghebbenden, waaronder burgers

Het concept “AI Localism” pleit ervoor om de algoritmen en het beleid inzake AI af te stemmen op de lokale omstandigheden, zodat beleidsmakers meer kans hebben om positieve feedbackloops te creëren die leiden tot meer effectiviteit en verantwoording. Brussel moet het voortouw nemen in participatieve beleidsontwikkeling en duurzame maatschappelijke betrokkenheid om de echte behoeften van mensen vast te stellen (met als voorbeeld Stanford en AMAI). Dit omvat ook de coördinatie van belanghebbenden en het integreren van alle perspectieven, met name die van gemarginaliseerde gemeenschappen. Een inclusieve aanpak moet met andere woorden aangemoedigd worden om de ontwikkeling van gewenste toepassingen en systemen te waarborgen.

Verantwoording rond AI bepalen

Nieuwe technologieën komen met nieuwe verantwoordelijkheden. Hierrond moeten debatten uitgevoerd worden. Samenwerking moet mogelijk gemaakt worden om te bepalen wie de verantwoordelijkheid opneemt voor potentiële mislukkingen. Wie wordt er beschermd door het beleid inzake AI? De EU AI Act is een goed begin, maar wat betekent dit voor het Brussels Hoofdstedelijk Gewest? In aansluiting met de vorige aanbeveling moeten bij debatten over deze kwesties diverse belanghebbenden worden betrokken, zoals burgers, bedrijven, burgerverenigingen, lokale overheden, universiteiten, enz.

Het belang van multi- en interdisciplinaire samenwerking op alle niveaus

Dit is essentieel maar ook moeilijk. Zelfs binnen één project of instelling moeten mensen met verschillende achtergronden en disciplines de verschillende stadia van de ontwikkeling van een instrument op basis van AI beoordelen. De multi- en interdisciplinaire samenwerking tussen verschillende teams en belanghebbenden en tussen de verschillende bestuursniveaus (d.w.z. lokaal, regionaal, federaal en internationaal) moet worden bevorderd.

Gegevensstromen mogelijk maken

Om uitstekende en verantwoorde technologieën (gebaseerd op AI) te ontwikkelen zijn data essentieel. Het verzamelen van gegevens verloopt echter nog steeds rommelig: veel partners houden hun gegevens achter of weten niet hoe ze die het best kunnen benutten. Het Brussels Hoofdstedelijk Gewest kan een cruciale rol spelen bij het op een verantwoorde manier vergemakkelijken van gegevensstromen en tegelijkertijd open staan voor de uitdagingen van realistische datasets en de samenwerking met experten ter zake.

Zoals gezegd moeten we ook “het wiel niet opnieuw uitvinden”

Veel andere regio’s en instellingen hebben richtsnoeren, beginselen, voorschriften en lessen rond AI opgesteld. Die kunnen gebruikt worden om een gesprek op gang te brengen met de relevante belanghebbenden en partners in Brussel. Het is niet nodig om van nul af aan te beginnen. Het Brussels Hoofdstedelijk Gewest moet hergebruiken en aanpassen. Het kan bijvoorbeeld kijken naar wat pionierssteden als Amsterdam, Barcelona, Kopenhagen, Helsinki en Montréal doen en zich baseren op de documenten en principes van GovLab/NYU en UNESCO over hoe verantwoorde AI en een verantwoord beleid inzake AI tot stand komt.

Conclusie

De Brusselse context vraagt om de integratie van verschillende beleidsplannen, waaronder de huidige regionale innovatie- en infrastructuurplannen. Die bevatten belangrijke overheidsopdrachten die overheden kunnen gebruiken als marktinstrument om de ontwikkeling van AI te sturen en te beïnvloeden. Daarnaast is transparantie van essentieel belang. Die kan nog versterkt worden door de oprichting van een regionaal algoritmenregister zoals in Amsterdam en Kopenhagen. Dit alles moet leiden tot een meer verantwoorde en wenselijke ontwikkeling van AI, data en robotica ten dienste van het algemeen belang.