MongoDB speichert seine Daten in einem Format namens BSON, einer binären Darstellung von JSON-ähnlichen Dokumenten. Diese Dokumente enthalten Paare von Feldern und Werten, wobei die Werte Daten verschiedener Typen, einschließlich anderer Dokumente, Arrays und Array von Dokumenten, sein können.
Die Dokumente werden in Sammlungen organisiert, die ähnliche Kategorien von Informationen enthalten. Dies ist vergleichbar mit der Methode, wie relationale Datenbanken Daten in Tabellen speichern. Allerdings sind MongoDB-Sammlungen Schema-frei, was bedeutet, dass die Dokumente innerhalb einer Sammlung unterschiedliche Felder und Strukturen haben können.
MongoDB kann auch Dateien und deren Metadaten über eine Funktion namens GridFS speichern, die große Dateien in kleinere Teilstücke (Chunks) unterteilt und als separate Dokumente speichert.