ChatGPT wurde mit einer Art KI-Modell namens Transformer entwickelt und erstellt. Dafür wurde es anhand von Millionen Internetkonversationen trainiert. Sein Training umfasste zwei Schritte: Pre-Training und Fine-Tuning.
Beim Pre-Training lernte es anhand von riesigen Mengen an Internettext, Vorhersagen zu treffen. Zum Beispiel wurde es darauf trainiert, wenn eine Eingabe wie “Heute ist ein schöner …” erfolgt, den nächsten Teil des Satzes, z.B. “Tag”, zu erraten. Dadurch lernt der Chatbot Sprachstrukturen und kontextuelle Hinweise.
Das Fine-Tuning erfolgt anschließend auf der Basis spezifischer Regeln und Leitlinien. Bei diesem Prozess arbeitet ChatGPT mit menschlichen Bewertern zusammen, die Feedback zu seinen Antworten geben, um dessen Leistung zu verbessern.
Die KI generiert dann mehrere Antworten auf eine Eingabe und ordnet sie anhand einer Wahrscheinlichkeit zu. Es wird dann die Antwort mit der höchsten Wahrscheinlichkeit gewählt.
