Rol van bestuur, recht en privacy

Ethical, Legal and Societal Aspects of AI (ELSA)

Hoe zorg je ervoor dat technologische ontwikkeling bijdraagt aan een inclusieve, democratische wereld? Dat doe je door te kiezen voor een holistische aanpak. “Je kunt de ontwikkeling van Articifial Intelligence (AI), de bijbehorende voorwaarden en de toepassing niet los zien van elkaar. Je moet de hele life cycle bestrijken, AI is waardeloos zonder human of social intelligence.”

‘Je moet de hele life cycle van AI bestrijken’

Aan het woord is Esther Keymolen. Zij is Assistant professor in Ethics, Law, and Policy of New Data Technologies en samen met Ronald Leenes kartrekker van de ELSA (Ethical, Legal and Societal Aspects of AI) -tak van TAISIG, die gespecialiseerd is in de randvoorwaarden van AI: voldoet het aan juridische, ethische en maatschappelijke voorwaarden? “Neem het gebruik van gezichtsherkenning op straat, of arbeidsrecht bij een bedrijf als Uber. Er worden grenzen overschreden waar we naar moeten kijken. Willen we dat wel? De mens moet centraal staan bij AI.”

Brussels effect

“Wij kunnen bijdragen in hoe je dat doet”, vervolgt ze. “In Europa speelt wat je noemt het Brussels effect. Vanuit Brussel verankeren we in de wet de waarden waaraan AI moet voldoen. Doordat die wetten ook gelden voor samenwerkingspartners uit de rest van de wereld, kunnen wij het gebruik en de regulering van AI beïnvloeden en menselijker maken. Hoe kunnen werknemers beschermd worden tegen ongewenste gevolgen van digitalisering en globalisering? Wat voor al deze terreinen geldt, is dat expertise bij overheid en toezichthouders moet groeien. Niet alleen omdat die nodig is voor de randvoorwaarden van effectieve regulering, maar ook om die regulering zelf effectiever te maken. Deze vraagstukken benaderen we niet alleen via wetenschappelijk onderzoek, maar net zozeer in onderwijs. Wij leiden immers de professionals van morgen op.”

Ronald Leenes

In Europa kiezen we inderdaad voor human Centric AI

Wetgeving in beweging

“In Europa kiezen we inderdaad voor human Centric AI”, bevestigt Ronald Leenes. Hij is hoogleraar bij Tilburg Law School. “In Amerika is er meer een Wilde Westen-sfeer waarbij iedereen probeert in te springen op de ontwikkelingen. Wij doen onderzoek naar AI vanuit het perspectief van recht, ethiek, en sociale wetenschappen. Daardoor hebben we een goed blikveld op wat er gebeurt en zijn we goed op de hoogte van de Europese standaarden. Dat werkt twee kanten op: we houden ons bezig met de randvoorwaarden tijdens de ontwikkeling én de bescherming van gegevens. Je kunt er voor kiezen om je strikt aan de spelregels te houden. Maar doordat opvattingen in de maatschappij verschuiven, sluit wetgeving niet altijd meer goed aan. Neem het voorbeeld van gezichtsherkenning. Willen wij dat je nooit meer anoniem over straat kan? In Europa vinden we van niet, maar in Amerika en China zijn ze een andere mening toegedaan. De wetgeving wordt constant aangescherpt op het gebied van privacy en veiligheid.”

Unieke universiteit

Waarin onderscheidt Tilburg University zich? “Nederland telt drie of vier grotere recht- en technologiegroepen aan universiteiten”, schetst Leenes. “Wij zijn de grootste. Onze omvang en onze multidisciplinaire aanpak maakt ons uniek. Anderen nemen vaak het juridische aspect mee, maar kijken minder naar ethiek en maatschappelijke zaken. Tilburg University doet dat wel, én is bovendien zeer internationaal. Wij herbergen vele perspectieven.” Partners kunnen aankloppen bij Tilburg University voor toegepast onderzoek, consortia, beleidsadvisering, lezingen en trainingen. Keymolen: “Ze zijn welkom om ons te benaderen met hun vragen. Waar lopen ondernemers op vast wanneer ze AI willen toepassen? Welke moeilijkheden hebben gemeenten, toezichthouders, beleidsmakers in het vastleggen en handhaven van beleid? Het mooiste is als wij onze wetenschappelijke kennis en expertise kunnen koppelen aan vraagstukken die leven in de maatschappij.”

Ondernemers zijn welkom ons te benaderen met vragen

Esther Keymolen

Integrale aanpak

“Tilburg University heeft alle kennis in huis voor een integrale, holistische aanpak”, vindt Keymolen. “Ons doel is om in de hele AI-life cycle mee te denken met de technici, ook omdat we weten dat waarden niet pas van belang zijn wanneer je een toepassing uitrolt in de maatschappij. Je wilt niet een prachtige technologische ontdekking doen om pas aan het eind van de rit te concluderen dat mensen het geen goede ontwikkeling vinden. Waarden zijn al verweven in de manier van ontwikkelen. Data scientists zelf worden gestuurd door waarden; hoe stellen ze vragen? Wat vinden zij belangrijk?”

Juridisch én ethisch

“Vanuit Tilburg University zijn we gewend om de grenzen van de wet aan te wijzen en mee te denken met technici naar wat er wél kan binnen die grenzen”, vult Leenes aan. “We zoeken constructief mee.” Binnen ethiek brengt Tilburg University relevante waarden in kaart. “Soms mag iets juridisch, maar is het ethisch niet gewenst. Een aantal jaar geleden bood de ING de mogelijkheid tot gepersonaliseerde advertenties op basis van betaalgedrag. Ze deden dat op een juridisch correcte manier, maar klanten konden het niet waarderen omdat het de vertrouwensrelatie met hun bank aantastte. De maatschappelijke weerstand was te groot.”

Impact van handelen

Tilburg University biedt diverse opleidingen op het gebied van AI. “Mooi is dat bijvoorbeeld in de master Data Science & Society ook aandacht is voor ethisch en juridische aspecten”, zegt Keymolen. “Het zit erin verweven. Je hebt niet alleen technische kennis nodig, maar moet ook kijken naar de impact van je handelen en de oplossingen die je bedenkt.” Datzelfde geldt voor de masteropleiding Data Science & Entrepreneurship die we samen met JADS aanbieden. Ik zie dat alumni die startups vanuit de opleiding beginnen goed nadenken over hun maatschappelijke relevantie. Zo drukken wij als Tilburg University een stempel op het karakter van nieuwe techbedrijven in de regio. Dat is een goed begin, maar we zijn er nog niet.”

Ik zie dat alumni die startups vanuit de opleiding beginnen goed nadenken over hun maatschappelijke relevantie.

Uitleg en accountability

Qua onderzoek heeft TILT (Tilburg Institute for Law, Technology, and Society) jarenlang samengewerkt met technische universiteiten en grote techbedrijven als IBM, Microsoft en HP in Europese projecten. Leenes: “Daarbij keken we gezamenlijk naar welke problemen we proberen op te lossen. Aan welke voorwaarden moeten we voldoen? Daar is multidisciplinair inzicht voor nodig. Tilburg University kan ook bijdragen aan explainable AI. Daarbij gaat het om uitleg en accountability. Nemen we genoegen met ‘computer says no’? Je moet uitleggen hoe die computer tot dat antwoord komt als je wilt dat gebruikers het accepteren. Zo’n uitleg is bovendien afhankelijk van de situatie en de gebruiker. Hoe voorkom je stereotypering en discriminatie? Dat heeft onze aandacht en daar moeten we gezamenlijk goed in optrekken.” Keymolen knikt. “Voor het Ministerie van Binnenlandse Zaken maken wij bijvoorbeeld een handreiking over hoe discriminatie te voorkomen bij de ontwikkeling van AI-applicaties. Hierin leggen we de belangrijkste juridische principes uit en brengen die in verband met technische en organisatorische maatregelen.”

Mens en machine

“We moeten AI niet als technologie zien, maar als een socio-technisch systeem waarin mens en machine bij elkaar komen”, vindt Leenes. “Vanuit ELSA belichten we de sociale kant: wat betekent AI voor mensen en hoe beïnvloeden mensen AI? De insteek draait om ethiek, juridische aspecten en om hoe mensen AI begrijpen en beoordelen. Het is relevant om de opvattingen van mensen over robots te kennen, die hebben gevolgen voor de ontwikkeling van die robots. AI vervangt mensen vooralsnog niet, het is altijd een combinatie van mens en machine.”


Contact