Die jüdischen Männer und Frauen, die während der Inhaftierung im KZ-Außenlagerkomplex Landsberg/Kaufering starben, wurden bis Oktober 1944 zentral im Krematorium des Konzentrationslagers Dachau verbrannt.

Danach ging man darin über, die Toten in der Nähe der einzelnen Lager zu begraben. So wurden die Verstorben des Lagers Kaufering I nördlich des Lagergeländes in Massengräber verscharrt. Nach Kriegsende kehrten ehemalige KZ-Häftlinge zu selbigen zurück und kennzeichneten sie.

Die Ausgestaltung des KZ-Friedhofs erfolgte 1946/47 durch das Stadtbauamt Landsberg in Zusammenarbeit mit einem Komitee des DP-Camps Saarburgkaserne. 1950 wurde der KZ-Friedhof fertiggestellt und eingeweiht.

Durch ein zweiflügliges Tor mit Davidstern kann der von einer halbhohen Mauer umgebene KZ-Friedhof betreten werden. Insgesamt befinden sich acht individuelle Grabsteine und drei Gedenktafeln aus unterschiedlichen Materialien auf dem Gelände. Das Denkmal wurde von dem Architekten Ernst Rücker gestaltet.

Auf dem KZ-Friedhof sind laut Schätzung des Landsberger Landratsamtes von 1949 etwa 600 unbekannte KZ-Häftlinge bestattet. 2006 brachte die Bayerische Schlösserverwaltung ihnen zu Ehren an der Kapelle eine Gedenktafel an.