Walter Rauff è stato funzionario del Ministero della Marina Tedesca fino al 1937. L'anno successivo venne arruolato nelle file delle SD (Sicherheitsdienst, servizio di sicurezza), il servizio segreto delle SS capitanato da Reinhard Heydrich, per poi passare a capo della sezione delle questioni tecniche (Gruppe II D) della RSHA (Reichssicherheitshauptamt, Ufficio Generale per la sicurezza del Reich), un dipartimento creato da Heinrich Himmler nel 1939, che raggruppava la Gestapo, l'SD e la Kripo, ossia la polizia criminale. Nel 1941 e nel 1942, Rauff fu coinvolto nello sviluppo di furgoni camere a gas mobili, usate per uccidere con il gas di scarico, saturando l'interno del compartimento posteriore, mentre il veicolo viaggiava verso un luogo di sepoltura. Questi camion potevano trasportare 25 e 60 persone alla volta, che morivano per avvelenamento da monossido di carbonio o soffocamento. Erano ebrei, disabili, comunisti e altri. Rauff affidò ad August Becker, un chimico delle SS, il compito di gestire i furgoni a gas che operavano nell'Unione Sovietica e in altre zone occupate dai nazisti. Si pensa che Rauff sia stato responsabile di quasi 100.000 morti durante la seconda guerra mondiale, un genocidio perpetrato dai nazisti con l'uso di queste camere a gas mobili. Rauff fu poi coinvolto nella persecuzione degli ebrei nella Francia controllata da Vichy nel 1942-1943 e poi partecipò allo sterminio degli ebrei dell’Africa settentrionale che era sotto il controllo dell’Asse.
Nel 1943 fu inviato a Milano a reggere il comando interregionale di Lombardia, Piemonte e Liguria dove ebbe il compito di organizzare le operazioni della polizia segreta in Italia. Con Alois Hudal, Rettore del Pontificio Collegio di Santa Maria dell'Anima a Roma organizzò la rete clandestina che permise a parecchi gerarchi ed ufficiali nazisti di mettersi in salvo alla fine della guerra, transitando per l'Italia, salpando da Genova alla volta del Sudamerica e da Bari per il Medio Oriente. Tra gli anni '70 e '80 del sec. XX, fu uno dei criminali nazisti più ricercati. Riesce a raggiungere la Siria dove, pare, per tre anni è giudice militare. Nel 1958, via Ecuador e coi suoi documenti d'identità, si stabilisce in Cile, protetto dai vari presidenti succedutisi, nel 1958 da Carlos Ibáñez del Campo del partito agrario laburista, dal 1958 al 1964 da Jorge Alessandri Rodríguez del partito liberale, dal 1964 al 1970 da Eduardo Frei Montalva del partito Democristiano, dal 1970 al 1973 da Salvador Allende Gossens del partito socialista e dal 1973 fino alla morte nel 1984 dal regime di Augusto Pinochet Ugarte. Le numerose richieste di estradizione da più Paesi sono tutte ignorate e muore di cancro ai polmoni nel 1984 a Santiago del Cile.