1989 wurde ein "Förderkreis zur Errichtung eines Denkmals für die ermordeten Juden Europas" gegründet. Nach seinen Vorschlägen sollte das Mahnmal an einem historisch belasteten Ort entstehen, in der Nähe des "Führerbunkers" und der ehemaligen Reichskanzlei.
In der Tat liegt in der Nordostecke des heutigen Denkmalgeländes der Rest des Bunkers von Goebbels Dienstvilla. Der "Führerbunker" lag 300 m südlich des Geländes und ist heute durch eine Erinnerungstafel verortet.
Im Informationsflyer für das Denkmal wird die Frage, warum an diesem Standort das Denkmal errichtet wurde, wie folgt beantwortet:
"Der Standort im Herzen Berlins und in Nachbarschaft zu Botschaften, Kultureinrichtungen, Geschäfts- und Wohnbauten sowie zum Tiergarten drückt den öffentlichen Charakter des Denkmals aus. Seine Einbindung in den historischen Stadtraum und in das Parlaments- und Regierungsviertel macht deutlich, dass sich das Denkmal an die Zivilgesellschaft richtet."