ChatGPT è basato su GPT (Generative Pretrained Transformer), una tecnologia di intelligenza artificiale sviluppata da OpenAI. GPT è un modello di apprendimento automatico basato sul Transformer, una struttura di rete neurale che utilizza meccanismi di attenzione per migliorare la velocità e l’efficienza nel trattare le sequenze di dati, come le frasi in un testo. GPT è “pre-allenato”, il che significa che viene addestrato in anticipo su grandi quantità di testo da Internet, apprendendo così a generare frasi fluide e grammaticalmente corrette. Quindi, viene ulteriormente addestrato su uno specifico task, come rispondere alle domande o scrivere email, per diventare un modello per bot di chat come ChatGPT.