OpenAI heeft maatregelen genomen om ervoor te zorgen dat ChatGPT op een zo neutraal mogelijke manier reageert. Het model is ontworpen om geen sterke of controversiële meningen te uiten en om in dialoog te blijven met gebruikers zonder te vervallen in vooroordelen of controversiële standpunten. Het is getraind op een breed scala aan internetteksten, maar niet specifiek op één bron, en het heeft niet de mogelijkheid om nieuwe informatie te verkrijgen sinds het is getraind, dus het heeft geen toegang tot of kennis van real-world gebeurtenissen, boeken, academische artikelen, of andere specifieke documenten.
Ondanks deze maatregelen kunnen er op enig moment toch vooroordelen sluipen in de manier waarop ChatGPT reageert, omdat AI-systemen de patronen in de gegevens waarmee ze getraind zijn kunnen overnemen, inclusief vooroordelen. OpenAI werkt aan methoden om dergelijke systematische vooroordelen te verminderen en is eveneens bezig met het verbeteren van de systemen op basis van gebruikersfeedback om beter met deze problemen om te gaan.
