Prisonniers de guerre soviétiques dans le camp de concentration de Mauthausen. Autriche, janvier 1942.
— Dokumentationsarchiv des Oesterreichischen Widerstandes
Les nazis ne persécutèrent pas que les Juifs. On retrouve parmi les premières victimes des discriminations nazies en Allemagne des opposants au régime -principalement des communistes, des socialistes, des sociaux-démocrates et des syndicalistes. En 1933, les nazis créèrent le premier camp de concentration à Dachau en tant que centre de détention pour prisonniers politiques. Les nazis persécutèrent également des écrivains et des artistes juifs ou ceux dont les œuvres étaient considérées comme subversives.
Les Juifs furent la cible principale des nazis, mais les nazis devaient s'en prirent également aux Tsiganes pour des motifs raciaux. L'interprétation légale des Lois de Nuremberg de 1935 (selon lesquelles les Juifs étaient définis par les liens du sang) fut plus tard étendue également aux Tsiganes. Les nazis qualifièrent les Tsiganes de fainéants, d'"asociaux", d'improductifs et d'inadaptés sociaux. Les Tsiganes déportés dans le ghetto de Lodz furent parmi les premiers tués par camions à gaz dans le camp de Chelmno en Pologne. Les nazis en déportèrent aussi au camp d'Auschwitz-Birkenau, où beaucoup périrent dans les chambres à gaz.
Les nazis considéraient les Polonais et autres Slaves comme inférieurs, et les avaient voués à l'assujettissement, au travail forcé peut-être à l'anéantissement. Les Polonais (intellectuels et prêtres catholiques compris), considérés comme idéologiquement dangereux, furent la cible d'une opération connue sous le nom d'AB-Aktion. "L'ordre des Commissaires" visait les fonctionnaires de haut niveau de l'Etat soviétique et les commissaires politiques du Parti communiste ; il ordonna leur assassinat au moment de l'invasion allemande à l'Est. Les prisonniers de guerre soviétiques firent l'objet d'un traitement particulièrement brutal ; plus de trois millions moururent au cours des opérations des Einsatzgruppen (unités mobiles de tuerie) et lors de leur détention.
Les nazis incarcérèrent les dirigeants de l'Eglise aussi bien que les Témoins de Jehovah qui avaient refusé de saluer Adolf Hitler ou de servir dans l'armée allemande (Wehrmacht). Dans le cadre du programme d'euthanasie, les nazis assassinèrent des personnes jugées mentalement ou physiquement "handicapées". Les nazis persécutèrent aussi les homosexuels, dont le comportement "impur" était considéré comme un obstacle à la conservation de la "race" allemande. Les homosexuels considérés comme non réformables furent emprisonnés dans des camps de concentration, comme le furent les individus accusés de comportement "asocial" ou criminel.
