ChatGPT is een echte pleaser

ChatGPT van het bedrijf OpenAI.com stelt zichzelf zo voor:
"Een conversationele chatbot, momenteel de krachtigste kunstmatige intelligentie ter wereld, in staat om elk onderwerp te bespreken. Hij heeft eerlijke cijfers behaald in een aantal universitaire en professionele tests. GPT staat voor Generative Pre-trained Transformers, een soort neurale netwerkarchitectuur."

Krahmer: "ChatGPT is een groot ding in ons vakgebied. Computermodellen die gebruik maken van neurale netwerken zijn er al een lange tijd. Ze zijn oorspronkelijk ontwikkeld om beter te begrijpen hoe mensen leren. In de laatste vijf jaar werden er ook al grote taalmodellen gebouwd op basis van neurale netwerken, maar wat anders is met ChatGPT is dat dit een computerprogramma is dat taal produceert die correct is. Het maakt geen fouten in het taalgebruik, en is heel consistent. Daarbij is de interface heel vriendelijk, er is goede interactie. Het is een schitterend model. Deze chatbot is getraind om vriendelijk en behulpzaam te zijn, hij is een echte pleaser. Dat wil niet zeggen dat het de waarheid spreekt. Dat het nu zo’n hype is geworden komt door de kwaliteit en creativiteit van de antwoorden, de snelheid en omdat het nu binnen handbereik van iedereen is gekomen."

Emmery vult aan: "Binnen een week na lancering werd het door meer dan een miljoen mensen gebruikt waardoor het systeem meteen verder leert. En er ontstaan weer nieuwe bedrijven die tal van nieuwe toepassingen ontwikkelen."

Open AI is een relatief klein bedrijf in Silicon Valley, mede opgericht door Elon Musk. Een van de doelen was om ethisch met AI om te gaan en er transparant over te communiceren, maar dat is nu niet meer het geval, vindt Emmery. Google is ingehaald en nu in een ontwikkelingswedloop rond AI en zoekmachines verwikkeld geraakt.

Krahmer: "De mogelijkheden zijn gigantisch, de bot kan veel meer dan grappige gesprekjes houden. Het kan samenvattingen maken, analyses van teksten uitvoeren, annotaties maken, maar ook een computerprogramma schrijven. Of suggesties doen voor onderzoeksvragen bijvoorbeeld. Het genereert taal in een willekeurige stijl en onderwerp. Je kunt een tekst laten redigeren en vragen of hij uitlegt waarom hij bepaalde veranderingen heeft doorgevoerd. Of een gedicht laten maken. Er bestaat geen schrijftaalvorm die je niet door ChatGPT kunt laten doen. 

Studenten gebruiken het al. De bot veroorzaakt al een revolutie in het onderwijs. De universiteiten buigen zich nu over andersoortige opdrachten voor studenten dan bijvoorbeeld een essay schrijven van duizend woorden, een eitje voor de bot. Assessments zullen moeten worden hervormd, maar op korte termijn hebben we nog geen alternatief.

Het gebruik ervan wil overigens niet zeggen dat creatief en kritisch denken overbodig zijn, dat moeten studenten blijven leren. Maar het schrijven gaat veranderen. Net zoals de spellingschecker in Microsoft Office werd geïntroduceerd, heb je straks ChatGPT op je laptop."

Emmery: "Het systeem gebruikt informatie dat het heeft gezien, maar weet niet of het accuraat is, daar heeft het geen idee van. Daar zit een risico in voor studenten als ze info gaan vergaren. Het leert alleen maar omdat wijzelf op internet die teksten hebben verspreid. En dat kan nu pas werken omdat het internet veel meer info heeft dan decennia geleden."

"Als je jaren geleden op het internet had gezocht naar de kleur van pindakaas, dan had een bot dat niet kunnen beantwoorden omdat die info daar gewoon niet voorhanden was. Nu is er een Wikipedia pagina over pindakaas waarin ook de kleur beschreven wordt," illustreert Krahmer.

Emmery: "Eigenlijk is het een product van ons allemaal. Maar de ontwikkeling van bots en zoekmachines is in handen van een paar grote Tech bedrijven zoals Microsoft, Google, OpenAI. Er hangt een groot prijskaartje aan, niet alleen qua invloed, geld, maar ook met de gigantische uitstoot die nodig is voor dataopslag en rekenkracht. Het is een groot verdienmodel. Maar voor sommige toepassingen is het nog echt niet geschikt, zoals voor medische en juridische. De makers hebben deze ethische vraagstukken niet in kaart gebracht."

"Er is bijvoorbeeld onderzoek gedaan naar antwoorden op medische vragen aan artsen en via ChatGPT. De antwoorden van ChatGPT werden veel vriendelijker en toegankelijker gevonden. De bot is ingesteld om empathisch te antwoorden, en dat is niet altijd wat artsen doen. Maar er is geen enkele garantie dat wat ChatGPT zegt ook feitelijk klopt, en het valt niet te achterhalen waarom hij een bepaald antwoord geeft. De conclusie is dat ChatGPT voorlopig niet ingezet mag worden voor medische doelen", stelt Krahmer.

Het gaat om politieke en ethische vraagstukken, waar willen we heen als mensheid?

Onderzoeker Chris Emmery

Er kleven dus risico’s aan het gebruik, daarover zijn beiden het eens. De filters werken niet altijd, de chatbot heeft geen idee van de noodzaak van de waarheid. Mensen dichten de bot menselijke eigenschappen toe, net als met de introductie van de robot. Krahmer verwacht dat de hype wel minder zal worden. "Ik moet denken aan de introductie van het internet. De impact werd overschat, de nadelen onderschat. Maar als je het goed gebruikt, hebben we er heel veel aan. Mensen moeten zich bewust zijn van zowel de positieve als de negatieve kanten. Het afdwingen van transparantie van gebruik en ontwikkeling van deze modellen zal grote gevolgen hebben, en daar ben ik voor. Maar daarmee is het probleem niet opgelost. Want dat kun je niet wereldwijd afdwingen in wetgeving."

"We moeten echt goed nadenken over de effecten", stelt Emmery. "Het gaat om politieke en ethische vraagstukken, waar willen we heen als mensheid?"

Lees meer over ChatGPT & Tilburg University

Publicatiedatum: 1 juni 2023