ChatGPT: een hallucinerende babbelaar

Opeens was het er, en nu al niet meer weg te denken: ChatGPT, een geavanceerde chatbot die alles lijkt te kunnen als het om schrijven en vertalen gaat. In deze aflevering spreken we drie deskundigen over wat ChatGPT allemaal kan, wat het (nog) niet kan, en wat het nog gaat kunnen. En we vroegen hen wat de gevaren zijn van zo'n geavanceerde 'hallucinerende babbelaar' — want nadelen zijn er zeker ook. Ten slotte spreken we ook nog met iemand die ChatGPT al volkomen in haar werkproces heeft opgenomen, en die nu al niet meer zonder kan ...

Meer lezen/luisteren:

• ChatGPT: http://chat.openai.com
• Interview met Piek Vossen in VU Magazine
• Hoe intelligent is Google Translate nu echt? Eerdere aflevering over taaltechnologie met Vincent Vandeghinste
• Website van Aaron Mirck
• The Brand Bar van Tessa Ruggle

Over taal gesproken is een samenwerking van het Instituut voor de Nederlandse Taal (INT) en het Genootschap Onze Taal. Presentatie: Laura van Eerten en Raymond Noë. Concept & productie: Laura van Eerten. Muziek: Michel van der Zanden. Logo: Matthijs Sluiter (Studio Het Mes). Contact: overtaalgesproken@gmail.com

Transcript

Laura van Eerten
Dit is Over taal gesproken.

Raymond Noë
Dé podcast over het Nederlands.

Laura van Eerten
Van het Instituut voor de Nederlandse Taal.

Raymond Noë
En het Genootschap Onze Taal. 
Mijn naam is Raymond Noë.

Laura van Eerten
En ik ben Laura van Eerten.

Raymond Noë
Deze aflevering gaat over ChatGPT.

Vincent Vandeghinste
Ja we waren echt van de kaart geblazen van wat het kon en we dachten misschien moeten we maar stoppen met onze research doen want alles wat we proberen lukt gewoon met assistent. 

Raymond Noë
ChatGPT. Iedereen heeft het erover. Maar waarom eigenlijk? Wat is het precies? Hoe werkt het, hoe kun je het gebruiken, hoe revolutionair is het en hoe gaat het de wereld veranderen? Wat zijn de voordelen en zijn er ook gevaren? In deze aflevering van Over taal gesproken praten we met drie deskundigen. 

Aaron Mirck
Het is heel slim of het hallucineert. Het is geen mens het is niks menselijks, het is gewoon een algoritme wat getraind is inderdaad door mensen maar daarna gewoon ook een hele moeilijke som is. 

Piek Vossen
Wij vinden dit enorm interessant om te zien dat dit gewoon aantoont dat mensen clichéwezens zijn. En dat dat ook taal voor een groot deel gebaseerd is op na-apen.  

Raymond Noë
En we spreken iemand die ChatGPT al dagelijks gebruikt in haar werk. 

Tessa Ruggle
Voor mij is dit echt een een assistent en ik wil eigenlijk zelf ook wel zeggen een stagiaire want ik merk wel dat ze de assistent af en toe fout gemaakt.  

Laura van Eerten
Maar eerst: wat is ChatGPT eigenlijk? 
We vroegen het aan de chatbot zelf, dit was het antwoord op de vraag: kun je in één zin uitleggen wat ChatGPT is? 

ChatGPT
ChatGPT is een groot taalmodel ontwikkeld door OpenAI gebaseerd op de GPT-3.5-architectuur die is ontworpen om vragen te beantwoorden en conversaties voeren in natuurlijke taal. 

Laura van Eerten
Dat is een vrij technisch antwoord dus we vroegen vervolgens: kun je deze zin herschrijven voor een niet-technisch publiek? ChatGPT antwoordde:

ChatGPT
Zeker. ChatGPT is een soort slimme computer die is getraind om te praten zoals mensen dat doen zodat het vragen kan beantwoorden en met mensen kan communiceren in gewone taal.  

Laura van Eerten
Dat is al een stuk duidelijker en het laat meteen goed zien wat deze chatbot kan: vragen in natuurlijke taal begrijpen en beantwoorden, teksten herschrijven en teruggrijpen op wat er eerder gezegd is in het gesprek. 

Raymond Noë
De opnames voor deze aflevering zijn allemaal op afstand gemaakt dus de audiokwaliteit is helaas iets minder goed dan je van ons gewend bent. 
De eerste deskundige die we via Zoom spreken is Piek Vossen. 

Piek Vossen 
Ja ik ben Piek Vossen ik ben hoogleraar computationele lexicologie aan de Vrije Universiteit Amsterdam aan de faculteit Geesteswetenschappen en mijn groep houdt zich met name bezig met het ontwikkelen van software die taal kan begrijpen geschreven gesproken dat kunnen chatbots zijn kunnen ook robots zijn tekstgeneratie maar met name eigenlijk tekstinterpretatie. 

Laura van Eerten
Veel mensen zijn erg onder de indruk van ChatGPT.  We vroegen aan Piek of hij dat ook is. 

Piek Vossen 
Als je bedoelt dat heel veel mensen denken dat hier sprake is van algemene intelligentie dan ben ik het daar niet mee eens en ik denk ook niet wat heel veel mensen denken dat er nu een enorme revolutie heeft plaatsgevonden in AI. Want dit zat er eigenlijk al een hele tijd aan te komen en dan zijn al langer dit soort systemen en modellen alleen is de die dan weer gewoon een betere versie van maar in in inherent is het niet intelligenter dan die andere systemen, het doet het alleen beter. 

Raymond Noë
In die zin is het niet echt een hoe zeg je als vernieuwend maar het het nieuwe en de daaraan is natuurlijk dat het beschikbaar is voor het grote publiek. 

Piek Vossen
Dat waren die oudere modellen ook die waren ook beschikbaar alleen zij hebben daar een soort jasje boven omheen gehangen waardoor je nog iets makkelijker in natuurlijke taal iets kan vragen aan het systeem en op een nog natuurlijkere manier een antwoord krijgt. Wij als als ontwikkelaars hebben die schil niet per se nodig maar voor niet-technische gebruikers die kan nu gewoon door middel van zijn natuurlijke taal die functies gebruiken en dat is wat die schil doet.

 Laura van Eerten
Ja en dat is de reden dat het dat is de reden dat het nu zo groot in het nieuws is en iedereen daar zo mee bezig. 

Piek Vossen
Ja dat heeft twee effecten eigenlijk eentje is inderdaad een laagdrempelig is voor mensen om te gebruiken dus je hoeft niet te te weten hoe je zo'n systeem moet prompten zoals dat heet.  Het andere is daar door dat die dat het zo'n natuurlijk gaat ga je denken dat het  komt allemaal heel waarachtig over dus je gaat denken dat ook echt de intelligentie achter zit en dat het klopt wat er gezegd wordt waardoor je het voor zoete koek gaat aannemen, dat is de negatieve kanten aan. 

Raymond Noë
Er wordt wel gezegd: de waarheid is een bijproduct. 

Piek Vossen
Nou ja het zou toevallig waar kunnen zijn want die zegt ja zo zou je het kunnen zeggen ja.  

Raymond Noë
De tweede deskundige die we spreken is Vincent Vandeghinste. Je hoorde hem al eerder in de aflevering over taaltechnologie. 

 Vincent Vandeghinste
Ja ik ben Vincent Vandeghinste ik werk voor het Instituut voor de Nederlandse Taal en de KU Leuven als onderzoeker naar taaltechnologie. In die hoedanigheid ben ik veel bezig met wat is nu de state-of-the-art in taalmodellering, in meertalige modellen en de laatste tijd dus ook in die grote taalmodellen waar we het vorige keer over hadden.

Raymond Noë
Ja want je bent inderdaad wel de eerste gast die bij ons terugkeert. 

Laura van Eerten
Ja vlak nadat onze aflevering over taaltechnologie uitkwam was daar ineens ChatGPT.

Vincent Vandeghinste 
Ja, dus op die bewuste dertig november, ik weet nog goed waar ik was, zat ik hier met een collega die zei dit moet je eens proberen en dat was ChatGPT. Dus de eerste dagen dat dat uit was en dan ja wij waren echt van de kaart geblazen door wat het kon en dachten van misschien moeten we maar stoppen met onze research doen, want alles wat we proberen lukt gewoon met dat systeem. 
Maar ja als we dan een beetje langer gebruikten en een beetje nader bekeken dan zagen we wel wat het kon en wat het niet kon maar het blijft toch wel een sterk staaltje AI dat moet ik toch wel zeggen. 

 Laura van Eerten
Ja, want je bent er dus wel van onder de indruk.

 Vincent Vandeghinste 
Jazeker puur taaltechnologisch is vind ik het heel interessant. Ja dus wetenschappelijk is het niet eens, was niet zo super vernieuwend, in de zin dat een taalmodel gebruikt, een groot taalmodel dat al bekend was. Wat is nu het verschil met ChatGPT tegenover GPT drie, dat al bestond, is dat ChatGPT, ze hebben die dan heel veel dingen laten, vragen laten beantwoorden en dan door mensen laten beoordelen is dit een goed antwoord, is dit geen goed antwoord. En ook nog andere taken zoals hier zijn tien antwoorden op deze vraag, welk is het beste antwoord of zinsvolgorde. En dan heeft die daar opnieuw van geleerd wat wij als mensen verwachten dat goede antwoorden zijn en dus de finetuning dat taalmodel gebeurd is. En daardoor lijkt dat zo natuurlijk als je als je daarmee chat, dat je zo’n menselijke antwoorden krijgt eigenlijk, omdat het dus effectief gefinetuned is op menselijke antwoorden en niet puur op de bestaande teksten, zoals gewoonlijk taalmodellen. Maar wat er ook misschien nieuw aan is tegenover de vorige taalmodellen is dat ie bijhoudt in een sessie wat die al gezegd heeft en wat jij al gezegd hebt en dat je dus kan verwijzen naar het voorgaande antwoord, dat zijn ook wel dingen die het qua chat natuurlijker maken wat niet standaard in die taalmodellen zit. Dus hij houdt z’n sessie bij, hij houdt bij wat er allemaal gezegd is en en gebruikt dat allemaal in z'n volgende antwoorden. 

 Laura van Eerten
Zoals Piek en Vincent vertellen is GPT drie, het taalmodel dat aan de basis ligt van ChatGPT, dus niet nieuw of revolutionair. Maar het is wel heel goed in het beantwoorden van vragen en door de user interface is het taalmodel nu toegankelijk voor iedereen. Maar in de basis doet dat onderliggende taalmodel, de motor van ChatGPT in principe niks anders dan woorden voorspellen op basis van voorgaande woorden. 

Piek Vossen
De motor is wat ze noemen een hallucinerende verhalenverteller, dat is dat is de motor en hallucinerend betekent eigenlijk dat je er nooit nooit weet, het is nooit echt direct een reflectie van feiten of van bepaalde bronnen het is allemaal een indirecte reflectie van van informatie. Maar het heeft wel geleerd om dat op een hele natuurlijke juiste manier te verbaliseren. 

En dan bijvoorbeeld GPT drie die daaronder ligt daar in is in onderzoek gebleken dat die veertig procent hallucinatie heeft hè dat die dus allerlei feiten gaat verzinnen die helemaal niet gevraagd werden om om om uit te drukken. 

En nu hebben ze gezegd dat dat teruggebracht is naar twintig procent maar dat is nog steeds twintig procent hallucinatie en als het gaat om een kritisch een kritische beslissing en je vraagt advies in van in zo'n systeem, medisch, financieel, dan heb je kans dat er dus met twintig procent hallucinatie iets heel ernstigs fout gaat. 

Laura van Eerten
Is dat ook de reden dat jij zei in een interview met het magazine van de Vrije Universiteit Amsterdam dat ChatGPT wel eens de dood van het internet zou kunnen betekenen.

Piek Vossen
Nou dat dat heeft meer te maken met het feit dat dat je nu content kunt genereren die heel echt overkomt als je als we niet weten hoe wat we hier aan zouden moeten doen, dan zou je misschien over tien jaar een internet hebben dat voor kwart bestaat uit verzonnen content. Ja waardoor ik ga zeggen van luister eens, ik heb geen idee meer of dit nou klopt of niet klopt dus ik doe maar je ding ik ik ga op een andere manier aan meer informatie komen. 

Raymond Noë
Ja, zou het zo ver komen? 

Piek Vossen
Ja je hebt nu al dat je van de kunst niet meer weet of het van de kunstenaar komt of van een software, je weet dadelijk niet meer of de stem ook echt komt van de persoon waarvan je denkt dat de stem van komt, je weet dadelijk niet meer over het de video komt van de persoon en je weet dadelijk ook niet meer of dat het verhaal dat verteld wordt of dat ook echt van de bron afkomt of ergens op gebaseerd is of dat dat overkomt als echt maar helemaal door iemand anders georkestreerd is. Denk maar eens aan fishing mails hè die die die nu al behoorlijk goed zijn maar die ja die worden dadelijk in staat om allerlei persoonlijke informatie heel gelikt erin te verwerken en dan en het komt helemaal echt over. Of de of de de whatsapp van familieleden die om om geld vragen die ook niet echt zijn en dergelijke, je kunt aan de achterkant niet zien wie of wat erachter zit. 

Raymond Noë
Ja ik las toevallig vandaag dat er ook al oplichters aan de gang zijn die dan de stem van je familieleden namaken.

Piek Vossen
Ja dat zal zeker ja ja en die je dan opbellen ja. Nu kun je misschien een vraag stellen en dan en dan aan de hand van die vraag merk je van wacht effe dat is mijn broer helemaal niet of mijn zoon of mijn dochter maar als het als dit verder gaat dan krijg je ook nog eens een keer een heel goed antwoord als je een vraag stelt.  

Raymond Noë
Er wordt ook wel gezegd dat bij ChatGPT de waarheid bijproduct is. We vragen aan Vincent of hij daar gevaren in ziet en of dat misschien in de toekomst gaat veranderen. 

Vincent Vandeghinste 
En nu is het honderd procent een taalmodel dus het het genereert alleen maar waarschijnlijkste woorden er zit geen fact checking in, het is niet dat ie zelf nog eens op internet gaat kijken of het waar is wat ie zegt ofzo. Dus dus dat zit er niet in. Microsoft is nu ChatGPT aan het integreren met bing. Ik denk dat we dat daar wel gaan krijgen dus dat die chek d'r nog in zit dat die dan nog gaat bronnen vermelden of doorlinken naar websites zodanig dat je het kan checken. Nu is het echt het is een babbelaar hij zegt maar wat en in ieder geval de eerste versie was ook maar getraind op data tot september twintig eenentwintig. Dus alles wat daarna gebeurd is daar wist die niks van. Nou ik weet niet wat er ondertussen al is gedaan, want het wordt wel om de paar weken geupdatet, het systeem. 

Maar ja op basis van alle feedback van de miljoenen gebruikers die er nu zijn natuurlijk zal het wel snel aan veel bijleren. 

Raymond Noë
Ja zie je daar gevaren in in in dat hallucinerende karakter?

Vincent Vandeghinste 
Ja ik denk dat het logisch is dat er dat ie nog moet checken wat wat waar is of niet dus ik denk dat dan een logische volgende stap is dus ik denk dat dat nu misschien gevaarlijk is maar dat op termijn min of meer verdwijnt voor zover natuurlijk fact checking ja factchecking is altijd iets dat dat noodzakelijk is en als ie dan een bronvermelding zou kunnen doen, dat lijkt nu ook voor sommige systeem al al te kunnen, dan ja dan dan kunnen we het al beter weten. Ja het gevaar ja, mensen die het gebruiken moeten nou nog altijd nalezen wat het systeem zegt en effectief verbeteren dus ik vind het heel geschikt als eerste stap en dan moet je post editen.

Laura van Eerten
Ja zoals ook al bij automatisch vertalen en zo gebeurt.

Vincent Vandeghinste 
Inderdaad.

Laura van Eerten
De derde deskundige is Aaron Mirck, denker, spreker en schrijver over technologie. Hij is het met Vincent eens dat ChatGPT een goed hulpmiddel kan zijn. 

Aaron Mirck
Mijn naam is Aaron Mirck. Ik geef lezingen en workshops over hoe we slimmer kunnen omgaan met technologie van digitale etiquette, hoe gaan we met elkaar om op whatsapp op linkedin op tinder op zoom, over AI, daar kan je nu natuurlijk niet echt omheen, iedereen gebruikt ChatGPT en hoe we in ons werk minder afgeleid worden door technologie. 

Laura van Eerten
Hoe hou je je in het dagelijks leven dan bezig met ChatGPT? Maak je er zelf ook gebruik van? 

Aaron Mirck
Ja ik ik experimenteer ermee in mijn dagelijkse werk om te zien hoe ik mijn werk als schrijver ook makkelijker en soms ja interessanter kan maken.  

Raymond Noë
Het gaat dus vooral je werk makkelijker maken zeg jij.  

Aaron Mirck
Ja wat heel veel mensen volgens mij nu horen en zeggen is AI gaat ons werk overnemen, de robots komen eraan, pas maar op en de vergelijking die ik steeds maak is die met de zelfscan in de supermarkt. Er zijn nog steeds mensen die zijn caissière maar dat werk is veranderd in die controleren de boodschappen van mensen en zo denk ik dat het werk van schrijver of beeldmaker misschien ook wel een beetje verandert, dat minder mensen dat op de ouderwetse manier doen, maar dat er nog steeds mensen nodig zijn die met die technologie kunnen werken. 

Raymond Noë
Ja, dat is wel een mooie metafoor van die supermarkt, maar het is inderdaad ook wel zo dat die teksten die ChatGPT produceert wat braaf en wat vlak zijn, dus je zou ze inderdaad kunnen gebruiken als een als als een eerste versie als een uitgangspunt.  

Aaron Mirck
Zo wordt het gebruikt en zo heb ik het ook gebruikt maar ik heb een experiment gedaan en een jaar anderhalf jaar geleden met GPT drie en toen ontdekte ik dat er gedichten uit die AI komen die meer likes scoorden op instagram dan mijn werk en in sommige gevallen ook best wel overtuigend waren, eigenlijk meer zeggingskracht hadden dan mijn poëzie. Ik denk dat het dat er dat er en dat is misschien ook per ongeluk hele goeie teksten uit kunnen komen.  

Raymond Noë
Ja en waar zat hem dat dan in. Geef eens een voorbeeld van wat er beter ging.

Aaron Mirck
Iets wat ik heel goed vond gaan namelijk is ik heb een gedicht geschreven over social media. 

Hij heet de glimmende rinkel wagen. 

Je staat in het laatste blauw van de dag in het benauwend laagland. 

Je bent een bushalte. 

En dat gaat over iemand die zo lang wacht dat die de bushalte is geworden en dat heb ik laten bewerken door AI en dat werd: je bent een bushalte midden in een besneeuwde woestijn. Dit jaar ben je maar één keer gebruikt. 

En ik vond het heel krachtig omdat het gaat over een woestijn die die komt er opeens bij dat is natuurlijk best wel desolaat. Er ligt sneeuw is dat geluid kon nergens heen dus dat dat heeft ook iets eenzaams. En bushalte is maar één keer per jaar gebruikt en ja ik vond het best wel wat zeggingskracht hebben we eigenlijk. 

Ja voor de volledigheid ik heb poëzie over algoritmes gemaakt. Mijn bundel heette dit algoritme deugt niet. Die heb ik laten bewerken door algoritmes en gepost op het instagramalgoritme om te kijken wie er in wezen dichter is ik of het algoritme en ik heb gewoon de likes geturfd eigenlijk en die dat bleek toch het algoritme.

Raymond Noë
En stel dat je dit doortrekt, wat gaat dat voor gevolgen hebben als je ChatGPT aan kan zetten, op een knop kan drukken dat ie poëzie begint te genereren, wat… 

Aaron Mirck
Nou, twee dingen: één, je geeft de de input voor zo'n AI en dus wat je nu ook ziet bij het maken van beelden is dat er er is een handel in de prompts, zoals dat heet dus de de input voor zo'n AI en dat is wat geld waard is niet de output maar de input dus daar kan je dan als als creatief als maker, of dichter, schrijver ja het verschil in maken om het maar zo te zeggen. Nou ja dan gaat zo'n AI aan de gang en er komt er iets uit en dan is nog steeds aan ons makers schrijvers dichters om er iets uit te kiezen. 

Uiteindelijk ben je als maker dan aan het veranderen in curator. Je kan zeggen het is het einde van de creativiteit maar misschien verandert het wel, dat je namelijk aan het begin creatief moet zijn en aan het eind en steeds moet bedenken oke wat ga ik aan het begin doen, wat ga ik aan het eind doen en dat je dus iemand hebt die je waar helpt. Nouja, niet iemand, je moet het niet als mens gaan zien, maar iets wat je gaat helpen. 

Raymond Noë
Een assistent, een digitale assistent.  

Aaron Mirck
Er is een website die gebruikt AI ook als hulp bij het maken van stukjes tekst die zegt ja we zien het niet als hoofdredacteur maar gewoon als een stagiair. En dat op die manier hebben er heel veel aan. Gemiddeld verdient zo'n AI denk ik ook even goed als een stagiair bij de meeste bedrijven dus vergelijking gaat denk ik helemaal op. Ja.  

Laura van Eerten
Iemand die ChatGPT al volop gebruikt bij haar werk is Tessa. Ze is zelfstandig ondernemer in de creatieve sector.

Tessa Ruggle
Mijn naam is Tessa, ik ben eigenaar van de Brand Bar een branding studio die zich voornamelijk richt op het helpen van vrouwelijke ondernemers om zich te positioneren iin de markt dus ik help ze met een logo een kleurenpalet, typografie templates voor social media maar ook e-mail nieuwsbrieven eigenlijk alles waarmee ze zich uit waarmee ze communiceren aan de buitenwereld. Ik gebruik ChatGPTvoor verschillende doeleinden ten eerste helpt mij om e mails te schrijven dus e-mails, communicatie die met klanten heb. Aan de andere kant helpt het mij onder andere om sociale media posts te schrijven en ik kan dus al aan ChatGPT vragen: kun je van deze tekst een instagramstoriescript schrijven. Instagram stories zijn kleine korte verhaaltjes. En wat hij dan doet is al helemaal stukje voor stukje uitschrijft hoe ik dat stukje tekst zou kunnen communiceren en een derde punt dat wel interessant is is dat ik gemerkt heb dat ChatGPT mij ook kan helpen met brainstormen voor ideeën om ja want design te maken. 

Voor mij is ChatGPT echt een assistent en ik wil eigenlijk zelf ook wel zeggen een stagiaire want ik merk wel dat ze de assistent af en toe fouten maakt. 

Laura van Eerten
Je hoort dat Tessa ChatGPT hier een stagiaire noemt. Ze gebruikt een vrouwelijke aanspreekvorm. 

Tessa Ruggle
Maar ook daarin zelf dat ik soms van en hij naar een zij ga en dan denk ik t toch weer en voor mij probeer ik dan toch ja te gaan voor zij ook omdat ik ChatGPT ook aanstuur om op een vrouwelijke manier te praten. Omdat ik ja voornamelijk met vrouwelijke ondernemers spreek maar ook omdat ik dat zelf natuurlijk ben en ik graag zo echt mogelijk bij overkomen ondanks dat ik natuurlijk ChatGPT wel inzet. Ja wat ik verder ook wel interessant vind is dat er ook wel een klein beetje denk ik een een taboe op rust omdat je toch nog niet de hele tijd wil zeggen dat is eigenlijk iemand anders een gedeelte van jouw werk voor jou voor jou oplost en ik ben heel geïnteresseerd in hoe had zich in de toekomst gaat ontwikkelen. 

Ik gebruik ChatGPT dagelijks, soms meer dan andere keren maar ik merk echt dat ik het dagelijks ja geopend heb in mijn browser. Voor mij verhoogt het de productiviteit enorm.

Raymond Noë
De input die je de chatbot geeft heet een prompt, je hoorde de term al een paar keer voorbijkomen. Die prompt kan een vraag zijn zoals ‘wat is een prompt’ of een instructie zoals ‘herschrijf deze tekst voor mij in eenvoudig Nederlands’. We vragen Aaron naar het belang van de prompt. 

Aaron MirckJa ja die is heel belangrijk en gelukkig kan je er niet alles mee dus je kan er geen homofobe teksten mee maken geloof ik je kan er geen tekst maken over bestaande personen. 

Er is ook nog wel heel veel op af te dingen hoor. Het is geen magie, zo'n algoritme en dat wordt getraind mens openbare data dus het creëert niet iets nieuws, het reproduceert een variatie op bestaande data. Dus wat er wat je ziet is als je bijvoorbeeld Alexander intoetst bij zo'n beeld generator komt er een stoere vent uit en toets je Alexandra dan komt er een halfnaakte vrouw, want dat is de data die die AI heeft gehad. Wat er uit zo'n prompt komt is dus voor een heel groot deel een weerspiegeling van wat er nu online staat, dus daar hebben we helaas geen controle op als als gebruiker dus is die prompt heel belangrijk. 

Laura van Eerten
Vincent legt uit hoe het systeem zo'n prompt analyseert.  

Vincent Vandeghinste 
Hij berekent gewoon op basis van die vraag, die woorden die in die vraag zitten wat het meest of wat de reeks meest waarschijnlijke volgende woorden zijn. 

Er moet wel gezegd worden dat die niet altijd het meest waarschijnlijke geeft want dat zou saai en deterministisch zijn, dus hij kiest wel, er zit wel een random factor, dus hij gaat ook niet hetzelfde antwoord geven.

Raymond Noë
De temperatuur, heet dat blijkbaar. Dus dat je die waarschijnlijkheid van het antwoord kan beïnvloeden. 

Vincent Vandeghinste
Ja dat je de voorspelbaarheid inderdaad groter of kleiner maakt ja dat is een kenmerk van transformer modellen dus de t in ChatGPT staat voor transformer. Waarom temperatuur noemt dat is nogal nogal vergezocht om zo te zeggen maar goed dat is een factor die de variatie verhoogt.  

Raymond Noë
Het wordt minder saai. 

Vincent Vandeghinste 
Ja het wordt minder saai. Het gaat dan een exotischer antwoord geven. 

Raymond Noë
In het onderwijs zijn er zorgen over het gebruik van ChatGPT, want leerlingen laten de chatbot massaal hun huiswerk maken. We vragen Aaron hoe hij hier tegenaan kijkt. 

Aaron Mirck
Ik snap zo goed dat jongeren en scholieren en studenten hiermee aan de gang gaan. Als ik zestien was geweest en er was een tool die mijn huiswerk had geschreven dan had ik echt nooit meer zelf een opstel gemaakt. Ik denk dat je moet afspreken dat er dingen dus dan maar in de les gemaakt moeten worden. Want je krijgt aldus een wedloop op software die kan ontdekken of iets door AI is gemaakt maar het loopt altijd achter bij de AI software die iets kan maken dus dat ga je niet winnen. het is een beetje tweezijdig. Het is aan de ene kant heel goed dat je op een jonge leeftijd leert werken met nieuwe technologie. Aan de andere kant, ja je liet je leert wel denken en en en en ideeën formuleren door zelf die opstellen te maken en zelf je huiswerk te schrijven. 

Ja dat daar waar ik me zorgen om maak is de invloed van technologie ons dagelijks leven. We kunnen we konden ons twaalf seconden concentreren nu is dat nog acht seconden, een seconde minder dan een goudvis en ja ik heb niet het idee met AI als we dat allemaal massaal gaan gebruiken voor ons huiswerk dat we slimmer gaan worden. 

Raymond Noë
Maar het idee is dan, tenminste wat je nu al hoort is dat AI dan ja de basis moet zijn voor dat huiswerk, net als met dat schrijven en dat je dan op basis daarvan begint met je huiswerk te maken.  

Aaron Mirck
Nou ja er zijn d'r zijn er heel veel situaties waarvan je AI niet kan gebruiken want vertrouwelijke informatie bijvoorbeeld kan je niet invoeren in een AI want nou ja de privacy is niet gegarandeerd dus al die scholieren die er nu mee leren werken en denken dat dit de manier is hoe je in de toekomst een een mail gaat schrijven of een rapport of wat dan ook dat gaat gewoon niet voor elke situatie toepasbaar zijn. Dus je moet nog steeds leren hoe je een betoog opbouwt of hoe je een verhaal neerzet of wat dan nou ja ik vind het wel een schrikbarend idee als we daar compleet afhankelijk van worden. Goed dat je daarmee leert werken, we moeten ook wel want die scholieren die gebruikelijk massaal om hun huiswerk te laten schrijven maar laten we er niet zo afhankelijk van worden, want uiteindelijk staat die data bijj amerikaanse bedrijven die echt niks geven om onze privacy dus ja of daar echt zo blij moeten zijn. Ik weet het niet.

Laura van Eerten
Op privacy en regulering komen straks nog terug, maar eerst vragen we hoe Piek denkt over ChatGPT in het onderwijs. 

Piek Vossen
Zeker in het onderwijs zullen we moeten nadenken van het gaat er niet om om te bepalen of studenten ChatGPT wel of niet gebruiken. Ga er maar van uit dat ze dat gewoon gebruiken net als een spellingchecker of een grammaticachecker. Maar je moet de opdracht veranderen en misschien ook wel duidelijk maken van oké bij deze opdracht in kun je ChatGPT gebruiken voor onderdelen, maar we gaan verder. Er wordt dan gezegd van er zal altijd een stukje mondelinge toetsing moeten komen bij een student voor de teksten die die inlevert, waarin je waarin je met die student in gesprek gaat van oké wat staat hier nu en hoe heb je dit gemaakt, heb je het zelf geschreven of ChatGPT nou daar kunnen ze over liegen. 

Maar ze kunnen niet liegen over de interpretatie van wat er staat en waarom ze dat opgeschreven hebben, waar het op teruggaat en waar het allemaal vandaan komt. 

Als je ChatGPT gebruikt krijg je een fantastisch resultaat, maar er is geen transparantie naar waar dit vandaan komt en waar het op teruggaat. Maar dat betekent wel onderwijs veranderen, toetsing veranderen, heel veel extra werk, dus daar mogen we, open AI mag een stukje van z'n winst aan de academische wereld en het onderwijs terugsluizen vind ik wat dat betreft. 

Raymond Noë
Zijn er ook positieve vooruitzichten?

Piek Vossen
Ja zeker absoluut kijk wij vinden dit enorm  interessant om te zien dat dat dit gewoon aantoont dat mensen cliché wezens zijn en dat dat ook taal voor een groot deel gebaseerd is op na apen en he dus iets als een taalmodel, wij zijn taal modellen en dit is kennelijk in staat om al om een op menselijk niveau taalmodel af te leiden uit de data en dan niet alleen maar één taal maar misschien wel honderd talen, honderdvijftig talen te kunnen vertalen op zo een manier. Nou dat is al ook natuurlijk ongelooflijk nuttig zinvolle samenvatting genereren uit grote hoeveelheid tekst hè lijkt me ook heel erg nuttig, maar wat wij vaak teksten moeten interpreteren, dus mensen die lezen de tekst en plakken daar interpretatie labels aan, dat kan gaan van positief naar negatief maar kunnen ook specifieke stukjes zijn uit de tekst die ergens voor staan of naar verwijzen. Wij kunnen dit nu automatisch laten doen door ChatGPT. Ik zou kunnen vragen van, ik geef je twee stukken tekst en vertel mij of er een tegenspraak zit in die tekst. Nou dan zal die waarschijnlijk verwacht ik in meer dan negentig procent van de gevallen het juiste antwoord geven. Dus ik hoef dat niet meer aan de mens te vragen ik kan dat nu aan ChatGPT vragen, die zich gedraagt als mens. Het gaat mij niet om de waarheidsgetrouwheid van zijn teksten die die genereert nee ik prompt hem heel specifiek om een stukje interpretatie te generen. Nou dat is voor ons geweldig als we dat kunnen gebruiken en daar trainen we dan weer andere systemen mee dan ChatGPT die wel meer waarheidsgetrouw zijn en niet hallucineren, maar interpreteren. 

Raymond Noë
Het wordt een assistent zeg maar die je kan gebruiken die je een opdracht kan geven. 

Piek Vossen
Ja het wordt voor ons wordt dat een een mensachtige tekstinterpretator.  

Raymond Noë
Omdat ChatGPT zich mensachtig gedraagt sluipt het erin dat we de chatbot gaan personificeren. Aaron vindt dat we daarmee moeten oppassen.  

Aaron Mirck
Wat hier steeds insluipt steeds die AI als een soort mens gaan zien. Zeggen oh ja het is heel slim het hallucineert het is geen mens is niks menselijks het is gewoon een een algoritme wat getraind is inderdaad door mensen maar daarna gewoon ook een hele moeilijke som is.  

Raymond Noë
Maar je hebt dat natuurlijk de neiging om het gaan personificeren en en zeker als in in de nabije toekomst het geïntegreerd wordt met met je met je personal assistent met met Siri en dat soort dingen.  

Aaron Mirck
Ik weet nog niet hoe blij we moeten zijn hoor, met al die apparaten die we in ons huis zetten waar we dan tegen kunnen praten en waardoor we leren dat we bevelen kunnen geven met onze stem. Ik vind dat ook nog wel echt een impact kan hebben op de manier hoe we met elkaar omgaan en best wel wat gezinnen waarin ze zeggen we doen dit niet meer omdat onze kleine kinderen zo tegen de oppas of tegen de schoonmaker aan praten zijn want zij leren dat dit normaal is en die apparaten luisteren ook mee als je er niet tegen praat dus ik weet niet hoe voordat het echt moeten willen. Ewoud Kieft heeft hier een mooie roman over gemaakt, over hoe we in de toekomst een AI ja voice en personal assistent krijgen die ja weet wat goed voor ons is en die ons hele leven stuurt De Onvolmaakten heet het. Leest dat en je wil nooit meer zo'n ding in huis hebben. 

Laura van Eerten
Ook Vincent herinnert ons eraan dat de term kunstmatige intelligentie ons op het verkeerde been zet. Toen we jou spraken de vorige keer in de aflevering over taaltechnologie toen zei je we vinden een computersysteem intelligent totdat we snappen hoe het werkt. Hoe zie jij dat nu met ChatGPT?

Vincent Vandeghinste 
Nu de technieken die gebruikt worden zijn niet revolutionair hier, die zijn niet indrukwekkend maar de schaal waarop om het erover intelligentie te hebben ja dit is zeker artificiële intelligentie ik ken voorbeeld van ChatGPT was er zoiets dat als je hem vroeg ja wat is het grootste, een olifant of de empire state building, dat ie dan de mist inging en dat ie dan zei een olifant omdat het alle twee grote dingen zijn in een eigen omgeving maar normaal niet met mekaar vergeleken worden. Dat toont dat er eigenlijk geen geen redeneervermogen in zit of of nauwelijks dus dat het echt ja het is ook, het is indrukwekkend wat dit systeem kan maar dat is ook niet meer dan wat het is, namelijk een aan een babbelaar die die woorden voorspelt op basis van van wat er al gezegd is en wat ie geleerd heeft uit voorgaande gesprekken. 

Raymond Noë
ChatGPT is online gratis te gebruiken. Als je meer extra’s wil kun je kiezen voor een betaalde variant. Maar het onderliggende taalmodel wordt door open AI het bedrijf achter ChatGPT niet beschikbaar gesteld aan onderzoekers.

Piek Vossen
Je moet nu betalen op een gegeven moment kost het ontzettend veel geld om dit in de lucht te houden en te draaien dus in die zin zeggen ze van, ja wij geven dit niet om twee redenen: één het is gewoon te groot en te zwaar om het zomaar aan mensen te geven een andere is dat ze één of andere raar verhaaltje dat ze willen voorkomen dat het op het verkeerde manier gebruikt wordt. Maar daar is vind ik dan een beetje raar want dan zouden zij ons ethisch kompas gaan worden, bepalen van wat goed en slecht gebruik is en dat willen we natuurlijk niet. 

Raymond Noë
Vind je dat er regulatie zou moeten plaatsvinden dat d'r inzicht gegeven moet worden in wat er allemaal gebeurt in ChatGPT.  

Piek Vossen
De verantwoordelijkheid van die hightechbedrijven die gaat eigenlijk heel ver vind ik want het is de toegang tot kennis en informatie en dat is een mensenrecht vind ik dat moet volledig vrij zijn kan niet zo zijn dat wij moeten gaan betalen voor kennis informatie of dat in de handen blijft van bepaalde groepen, het moet ook laagdrempelig zijn. Het probleem is dat het een blackbox is, we weten niet precies wat er allemaal inzit, we weten niet precies hoe het gebouwd is, wel ongeveer, wel globaal.We weten ook niet precies wat ze gaan doen met alle data die ze krijgen. Wij wetenschappers vinden deze modellen super interessant wat ik al zei want dat zegt iets over ons taalvermogen en over ons brein hoe dat functioneert. 

Maar dan moeten we die modellen wel hier in mijn laptop hebben kunnen hebben en open kunnen breken en zelf kunnen aanpassen en experimenteren en dit gebeurt dus heel vaak hightechbedrijven gooien stuk technologie over de schuttin en de academische wereld kan dan tien jaar besteden aan proberen te onderzoeken wat dit nou precies inhoudt en betekent en en wat er van een kunnen leren. Maar we zijn echt afhankelijk van wat zij ons geven. 

Vincent Vandeghinste 
Dat bedrijf heet wel open AI maar er is niks open aan eigenlijk, noch de software noch de data, noch de modellen.

Raymond Noë
Zie je daar een probleem in dat het een black box is. 

Vincent Vandeghinste 
Op zich zie ik de problemen niet. Ik denk dat dat voor bedrijf een normaal is maar als wetenschapper vind ik het wel spijtig dat we niet exact weten wat erin zit of of hoe het juist werkt. Want wetenschappelijk is het is het is het natuurlijk interessant als je modellen kan downloaden, beïnvloeden, bekijken, analyseren en dat is niet het geval niet met GPT drie niet met ChatGPT en ook niet met GPT vier. 

Raymond Noë
Ja zou er meer regulatie plaats moeten vinden. Dat je ook kan kijken wat hoe het werkt dat je de black box in kan zeg maar. 

Aaron Mirck
Transparantie is in een begin maar niet de hele oplossing want dan kan je dus inderdaad in de nou in de black box zien dat jouw data te koop is dat dat mensen bij jouw bedrijfsgevoelige informatie kunnen en dan? Denk dat wij in europa gewoon alternatieven moeten ontwikkelen die er zijn voor de gebruikers, gemeenschappen, in plaats van voor aandeelhouders in Amerika. En ja daarin liggen we gewoon best wel achter nu dus laten we daar dan ook gaan zorgen dat we ook echt een alternatief hebben. 

Raymond Noë
En en dat alternatief, hoe moet dat eruitzien?

Aaron Mirck
Je hebt nu eigenlijk twee smaken vaak als het aankomt op technologie. Je hebt China dat helemaal staatsgedreven die technologie en  je hebt amerika, amerika dat is helemaal marktgedreven en ja wij liggen daar geografisch tussen maar we zouden ook echt een alternatief kunnen bieden als Europa door te zeggen we gaan dat niet overlaten aan de markt, of de overheid, maar aan de maatschappij. Zo is technologie ook ooit bedoeld en en ontwikkeld. Gemeenschappen van hackers die slimme oplossingen voor voor iets bedachten. Nou laten we hopen dat er in Europa techneuten en misschien ook schrijvers of denken of makers opstaan die daaraan mee willen werken. Want de slimste kids van mijn generatie gingen werken bij google of bij facebook en daardoor zitten we nu met de gebakken peren dus laten we hopen dat de volgende generatie wil werken bij de europese google of die een ethische AI gaat maken. 

Laura van Eerten 
Die initiatieven zijn er binnen de EU. Vincent kan ons daar meer over vertellen.  

Vincent Vandeghinste 
Daar zijn initiatieven voor binnen de Europese Unie ook om een eigen open echt open GPTx systeem te bouwen van meerdere talen. Vanuit Duitsland wordt dat heel veel gepusht ook van het idee van wat men datasoevereiniteit noemt. De sfeer moet niet afhangen van de willekeur van amerikaanse bedrijven en de daarbij behorende preutsheid of politieke correctheid. Misschien willen we dat helemaal niet in europa misschien hebben wij andere criteria die wij belangrijk vinden. Nu voor die europese aanpak hebben we met het INT al aangeboden om onze data of datasets dat die wij mogen verder verspreiden want die aan te bieden om Open GPT te trainen. 

Raymond Noë
Ten slotte, net nadat we de laatste opnames hadden gemaakt kwam er een nieuwe versie van het taalmodel uit, GPT-4. Zo blijkt maar weer hoe snel je achter de feiten aanloopt met dit soort nieuwe technologieën. We hadden onze gasten wel al gevraagd naar wat ze verwachten van deze nieuwe versie. Zou deze weer heel veel beter zijn?

Piek Vossen
Ja de hele wereld en geeft geeft ze enorm veel data en feedback waar ze natuurlijk gebruik van gaan maken. Dus maar omdat die onderliggende motor niet verandert verandert er niks fundamenteels. 

Vincent Vandeghinste 
Ja daar wordt dan verondersteld dat dat multimodal is, dus dat wil zeggen ze er daar ook audio en video in zou zitten of dat dat dan wil zeggen dat we kunnen tegen tegen de volgende ChatGPT vier kunnen zeggen: maak nu een filmpje van een hond die achter een postbode aan rent en we dan dat filmpje te zien krijgen, dat weet ik niet. Ik zou dat zelf misschien wel ergens verwachten. We hebben ook al Dali gezien van Open AI waarin je dan al een zin kan omschrijven en dan genereert ie een beeld en prentje ervan. Dus als we dit nu doordenken naar een model dat nog veel krachtiger is dan dan zou je denken dat die video kan genereren. Nu hoe zwaar dat dan is voor hun servers als als daar ook miljoenen mensen op springen dan gaan we lang moeten wachten voor onze video eruit komt, tenminste in de in de gratis versie toch. 

Raymond Noë
Ja maar hij wordt dus meer allround dus eigenlijk. 

Vincent Vandeghinste 
Ja en dan verwacht ik wel. Dus ik verwacht dat er audio en video bij zal zitten. 

Aaron Mirck
We hebben steeds mij elke nieuwe technologie zat iedereen te juichen van dit gaat nog leven verbeteren en en mooier maken en steeds kwamen we thuis van een koude kermis. Laten we nu een keer aan het begin kritisch nadenken over hoe we dit gaan gebruiken, voordat we compleet afhankelijk zijn van AI, zoals we dat zijn van Google.

Raymond Noë
En dat lijkt me een mooie boodschap om deze podcast mee af te sluiten. Dankjewel.  

Laura van Eerten
Leuk dat je weer luisterde naar Over taal gesproken.

Raymond Noë
De podcast van het Instituut voor de Nederlandse Taal en het Genootschap Onze Taal. Wij zijn Raymond

Laura van Eerten
en Laura. Vind je dit een leuke podcast, laat dan je waardering achter in je podcastapp. 

Raymond Noë
Wil je verder nog iets kwijt over de podcast, heb je een idee, suggestie of vraag, mail dan naar Over taal gesproken at gmail dot com.  

Laura van Eerten
Kijk voor interessante links in de shownotes en hopelijk tot de volgende aflevering.