Το μουσείο ιδρύθηκε για να τιμήσει την πλούσια και δημιουργική Σεφαρδίτικη κληρονομιά που δημιουργήθηκε σταδιακά από τον 15ο αιώνα. Στεγάζεται σε ένα από τα ελάχιστα σωζόμενα εβραϊκά κτίρια, που επιβίωσε της φωτιάς του 1917 και παλιότερα φιλοξενούσε την τράπεζα της Αθήνας. Περιέχει εκθέματα στις μόνιμες συλλογές του, φωτογραφικές εκθέσεις και την έκθεση του Simon Marks «Θεσσαλονίκη, Σεφαρδίτικη Μητρόπολη». Το Μουσείο περιλαμβάνει επίσης και κέντρο έρευνας και τεκμηρίωσης στις εγκαταστάσεις του.