Il a été créé à la suite des travaux de la Commission internationale sur l'Holocauste en Roumanie, présidée par Elie Wiesel, qui a documenté la déportation et le meurtre de Juifs roumains et ukrainiens et de Roms sous le régime du temps de guerre. Le mémorial a été conçu par le sculpteur Peter Jacobi.
Sa salle centrale en béton est un espace clos et silencieux éclairé par le haut, et les alentours accueillent des sculptures symboliques, dont une colonne portant l'étoile de David et une roue rappelant les victimes roms.
Une promenade dans l'ancien quartier juif peut relier le mémorial au Temple choral et à la Grande Synagogue, qui abrite un musée sur l'histoire de la communauté juive de Bucarest, le tout à distance de marche de la vieille ville.
