ChatGPT is een taalmodel dat is ontworpen door OpenAI. Het maakt gebruik van een technologie genaamd Transformer, die het mogelijk maakt om verschillende reeksen woorden in een zin te analyseren en te begrijpen.
De “GPT” in ChatGPT staat voor “Generative Pre-training Transformer”. ‘Generatief’ verwijst naar het vermogen van het model om nieuwe inhoud te genereren, ‘Pre-training’ verwijst naar de initiële fase waarin het model leert van grote hoeveelheden tekstgegevens en ‘Transformer’ is de onderliggende technologie die het model gebruikt.
ChatGPT is ontworpen om tekst op een menselijke, coherente en contextueel juiste manier te genereren. Het begint met een leerproces, dat de pre-training wordt genoemd, waarbij het wordt gevoed met een enorme hoeveelheid teksten om patronen en relaties tussen woorden te leren.
Vervolgens gaat het door een fase die ‘fine-tuning’ wordt genoemd, waarbij menselijke beoordelaars het model begeleiden om aan te leren hoe het moet reageren in een gespreksomgeving.
Daarom werkt ChatGPT door zowel de patronen die het heeft geleerd uit de teksten die het heeft geanalyseerd, als de begeleiding van de menselijke beoordelaars te gebruiken om op een natuurlijke en betekenisvolle manier op gebruikersinvoer te reageren.
