OpenAI hat strenge Richtlinien und Technologien eingeführt, um mit Vorurteilen in ChatGPT umzugehen. Der Lernalgorithmus von ChatGPT reagiert nicht absichtlich auf demografische Informationen wie Alter, Geschlecht, ethnische Zugehörigkeit oder Nationalität. Bei der Modellerstellung wird darauf geachtet, dass keine Vorurteile oder Diskriminierungen gegenüber bestimmten Bevölkerungsgruppen auftreten. Wenn bei der Generierung von Texten trotzdem Vorurteile auftreten, handelt es sich dabei um unerwünschte Artefakte, die weiter verbessert und korrigiert werden müssen. Darüber hinaus werden menschliche Prüfer regelmäßig geschult und geben Rückmeldungen zur Verbesserung des Systems, insbesondere um Vorurteile in den Antworten zu reduzieren.
