De robot als rotzak of rolmodel

De robot heeft lang een tamelijk anoniem bestaan geleid. Hij vertoonde zijn kunsten vooral in de beslotenheid van de bedrijfshal. Maar daar komt dit decennium definitief een einde aan. Dan komt hij zijn kooi uit. Als een nieuw ‘wezen’ stapt hij onze samenleving binnen. Daar zal hij, naast mens en dier, actief onderdeel van uit gaan maken. Als mensen moeten wij leren omgaan met dit op ons lijkende ‘new kid on the block’. De vraag rijst: hoe gaan wij ons verhouden tot machines die, net als wij, ook autonoom en intelligent zijn?

Het beeld van de uit zijn kooi komende robot, is afkomstig van Ton Wilthagen. Hij is niet alleen hoogleraar arbeidsmarkt maar ook een drijvende kracht achter het impactprogramma van Tilburg University. Wilthagen noemt het omgaan met robots een van de grootste uitdagingen van onze tijd. Hij gebruikt het beeld van de kooi bewust. Hij laat daarmee zien dat de beer los is.  Wilthagen: “Wij moeten de robot leren hoe hij zich moet gedragen. Hét vraagstuk is of de technologie recht blijft doen aan menselijke waarden. Daarvoor moet ze weten wat wij waardevol vinden. En dat roept vragen op als: hoe kunnen we de technologie vertellen wat wij vinden? En: wie bepaalt welke waarden we erin stoppen?”

Vrouwonvriendelijke en racistische AI

Of AI en algoritmen de goede zaak zullen dienen, ligt nu nog in hoge mate in onze eigen handen. Maar er is haast geboden. Want de technologie ontwikkelt zich snel. AI is nu al beter in het herkennen van huidkanker dan dermatologen. AI helpt het gedrag van het coronavirus te doorgronden en robots nemen intussen op vliegvelden op veilige wijze onze lichaamstemperatuur op. En het kan zomaar gebeuren dat u met een chatbot praat, terwijl u denkt een mens aan de lijn te hebben. Zolang robots ons goed helpen, hebben we daar waarschijnlijk weinig moeite mee. Anders wordt het als het misgaat. De eerste voorbeelden van robots die zich ontpoppen tot rotzakken dienen zich al aan. Zo ontwikkelde Microsoft de Chatbot Tay voor Twitter. Deze plaatste vrouwonvriendelijke en racistische opmerkingen en sloeg taal à la Trump uit. Dit kwam doordat hij werd gevoed door berichten van andere Twitteraars. Het zal geen verbazing wekken dat Microsoft Tay binnen de kortste keren de mond snoerde en offline haalde. Online retailer Amazon overkwam iets vergelijkbaars, maar dan met een AI-tool voor het automatisch selecteren van cv’s. Deze zetten ze in om kandidaten voor nieuwe functies te selecteren. Omdat de tool werkte op basis van data uit het verleden, discrimineerde deze vrouwen. Het lukte echter niet om dit recht te trekken. Daarop besloot Amazon een halt toe te roepen aan dit hulpmiddel voor het vinden van talent. En wat te denken van het UWV? Zij gebruikten het omstreden Systeem Risico Indicatie (SyRI). De rechter vond dit met algoritmen en data van wijkbewoners werkende fraude opsporingsprogramma in strijd met de mensenrechten. Waarop staatssecretaris Van Ark van Sociale Zaken besloot het niet meer te gebruiken.

Als technologie af is, zijn we er vaak al afhankelijk van. Het is veel effectiever om eerder, al tijdens de ontwikkeling, betrokken te zijn

Neerstortende Boeing

De Pavlov-reactie na een incident met AI of algoritmen is een roep om meer regels. We proberen drempels op te werpen waarmee we vergelijkbare toestanden in de toekomst willen voorkomen. Wilthagen vraagt zich af hoe effectief dat is. Regelgeving is nodig, maar achteraf roepen dat dingen niet deugen, werkt niet goed, vindt hij. Ook is het dan lastig om nog iets te veranderen. “Als technologie af is, zijn we er vaak al afhankelijk van. Het is veel effectiever om eerder, al tijdens de ontwikkeling, betrokken te zijn.”

Wilthagen pleit ervoor om menswaardige technologie met multidisciplinaire teams te ontwikkelen. Bijvoorbeeld teams waarbij technologiewetenschappers samenwerken met mens- en maatschappijwetenschappers, zoals die van Tilburg University. “De vraag hoe mensen zich verhouden tot machines is bij ons in goede handen. Wij weten veel over de omgang van mensen onderling. Dat kan worden vertaald in de omgang van mensen met machines.” Wilthagen vindt technologie te belangrijk om aan technologen over te laten: “Zij focussen op het optimaliseren van de techniek. Daarbij kunnen ze het menselijke uit het oog verliezen.” Ook hebben ze vaak een te groot vertrouwen in technologie. Zoals de ontwikkelaars van de neerstortende Boeing 737 MAX 8. Zij maakten het voor piloten bijna ondoenlijk een computerfout te herstellen.

Blessing in device

Tilburg University zet volop in op AI en allerlei toepassingen, zoals bijvoorbeeld chatbots en avatars. Er is een grote ‘community’ van onderzoekers actief. In de Spoorzone komt het nieuwe MindLabs uit de steigers en via oud-rector Emile Aarts neemt Tilburg actief deel aan de landelijke AI-coalitie. Ook participeren veel Tilburgse wetenschappers in het interuniversitaire progamma Digital Society.

Tilburg University ziet het als haar opdracht om als mens- en maatschappij universiteit bij te dragen aan het ontwikkelen van excellente én menswaardige technologie. De universiteit wil van AI een blessing in disguise – of: blessing in device – helpen maken. Dat is nobel, maar moeilijk voor het voetlicht te brengen. Daarom besloot het impactteam van de universiteit dit streven een gezicht te geven met TrusTee. Dit moet de meest betrouwbare en sociaalste robot ter wereld worden. De universiteit wil deze rolmodelrobot als het ware gaan ‘bouwen’. Denk daarbij niet aan een ‘fysieke’ supercomputer zoals Watson van IBM. In TrusTee komt de Tilburgse kennis over technologie en menselijke waarden samen. De universiteit heeft op dit gebied grote deskundigheid in huis. Zo pionieren Tilburgse wetenschappers met robots die kinderen helpen een tweede taal te leren en chatbots die mensen mentaal weerbaar maken. En zijn ze de motor achter de vooraanstaande studie op het gebied van Europese waarden. Volgens Wilthagen zullen deze wetenschappers de krachten bundelen met collega’s en externe partners. Samen gaan ze na hoe wij met zijn allen machines met menselijke waarden kunnen ‘laden’. Daarvan zal de denkbeeldige vertrouweling TrusTee het boegbeeld zijn.

Betweter en braverik

De grote vraag is natuurlijk: hoe komt Trustee eruit te zien? Wilthagen heeft daar wel een beeld bij. Hij denkt dat een rolmodelrobot niet discrimineert en geen oorlogen ontketent. En dat hij zelfs rekening houdt met onze veranderlijke voorkeuren. Hij geeft onze eigen waarden terug op een manier die ruimte laat voor een eigen invulling. Dit noemt Wilthagen ‘value backfiring’. “Trustee zegt bijvoorbeeld: ‘Je zit al de hele dag. Ik dacht dat jij nu wel een keer in beweging zou willen komen.’ De robot weet dat we de waarde gezondheid hoog in het vaandel hebben, maar dat het soms gewoon even niet uitkomt om daaraan te gehoorzamen. We kunnen nu eenmaal inconsequent of ambivalent in onze waarden zijn.” Zou de robot geen rekening met onze nukken houden, dan nemen we hem niet serieus. TrusTee wordt dan een irritante betweter en braverik. Wat we ook willen voorkomen, is dat onduidelijk blijft hoe hij ‘beslist’. Een voorbeeldige robot speelt open kaart. Je mag weten hoe het er bij hem van binnen uit ziet. Wilthagen verwacht dat steeds vaker duidelijkheid zal worden geëist. “De stad Amsterdam stelt dat alle algoritmen in de stad transparant moeten zijn. Dat hebben ze vastgelegd in het zogeheten Tada City-manifest.”

Onderdeel opvoeding

Wilthagen wil van TrusTee een merk maken dat staat voor menswaardige technologie. Hij ziet al een aantal toepassingen voor zich. Zoals een keurmerk dat duidelijk maakt dat bepaalde technologie rekening houdt met waarden die we respecteren. “Stel je een demente ouder voor die je moet onderbrengen in een verpleeghuis. Dan is het geruststellend als ze daar werken met TrusTee-gecertificeerde technologie die de autonomie van ouderen serieus neemt.” Een andere toepassing zou volgens hem ‘TrusTee in de klas’ kunnen zijn. “Daarmee kunnen we onderzoeken hoe kinderen met robots omgaan.” Wilthagen wijst op het belang dat dit thema in het onderwijs wordt opgenomen. Gefascineerd koopt en leest hij zoveel mogelijk recente kinderboeken over robots. “Zo las ik over een meisje in een wereld waarin robots de opdracht krijgen om haar te vernietigen. Zij zien haar als een risico voor het voortbestaan van de planeet. Gelukkig weet dat meisje de robots ervan te overtuigen dat ze niet over de juiste informatie beschikken.” Kinderen moeten meer leren over de werking van technologie, vindt Wilthagen. Zodat ze niet alles voor zoete koek slikken en beducht zijn voor risico’s. “Nu de robot uit zijn kooi is, moet ‘omgaan met robots’ onderdeel van de opvoeding en het onderwijs worden.”

Publicatiedatum: 19 augustus 2020