MongoDB slaat zijn gegevens op in een formaat dat BSON wordt genoemd, een binaire representatie van JSON-achtige documenten. Dit maakt het mogelijk om de rijke, flexibele kenmerken van JSON-gegevens te gebruiken, zoals geneste velden en arrays, terwijl het gebruik maakt van de efficiëntie van een binaire indeling.
In plaats van gegevens op te slaan in tabellen zoals in relationele databases, slaat MongoDB gegevens op in documenten. Dit maakt het mogelijk om gegevens met verschillende structuren op te slaan en te combineren in één database.
Elk document wordt opgeslagen in een collectie, vergelijkbaar met hoe een rij in een tabel zou worden opgeslagen in een relationele database. Collecties in MongoDB zijn flexibeler dan tabellen in relationele databases, omdat ze geen vaste structuur hebben. Dit maakt het makkelijker om gegevens in een collectie te wijzigen of bij te werken.
Deze gegevens worden op de harde schijf opgeslagen in grote bestand dat door het MongoDB-proces wordt beheerd. Er kunnen ook instellingen worden aangepast om te bepalen hoe MongoDB de data op schijf opslaat, bijvoorbeeld door datacompressie in te schakelen.