Die Zeit von 1934 bis zum Ende des 2. Weltkriegs war durch Verfolgung und Widerstand gekennzeichnet. Nach den gescheiterten Februarkämpfen wurden hunderte Schutzbündler inhaftiert, vielen gelang die Flucht in die benachbarte Tschechoslowakei. Doch immer wieder gab es Sozialdemokraten – meist die älteren und die jungen Revolutionären Sozialisten -, die sich durch diese Unterdrückungsmaßnahmen nicht einschüchtern ließen. Illegale Schriften und eine illegale Arbeiterzeitung wurde herausgegeben. Broschüren wie Otto Bauers “Der Aufstand der österreichischen Arbeiter” gelangten zur Verurteilung.
Die Bedingungen Sozialdemokrat zu sein waren schwierig und erforderten viel Mut. Immer wieder kam es auch zu Verhaftungen. Der spätere Bürgermeister Theodor Grill wurde beim großen Wiener Sozialistenprozess im März 1936, bei dem auch Bruno Kreisky, Franz Jonas, Franz Rauscher, Otto Probst, Anton Proksch u. v. a. angeklagt waren, zu zwölf Monaten schweren Kerkers verurteilt.
Die ständige Verfolgung und dauerhafte Missachtung der Menschenwürde durch das ständestaatliche Regime, die systematische Ausgrenzungspolitik, die es betrieb, hatten vor allem den Effekt, dass die Arbeiter dem Regime mit einem unversöhnlichen Hass gegenüberstanden. Der Boden für den Aufstieg des Nationalsozialismus wurde vom austro-faschistischen Ständestaat aufbereitet.
Der Widerstand, der bis zum Wendepunkt des Zweiten Weltkrieges eher auf das Zusammenhalten der Kader und gelegentliche Schwerpunktaktionen beschränkt blieb, begann nach 1943 um sich zu greifen. Die Alliierten hatten in der Moskauer Deklaration festgelegt, dass die Behandlung eines wieder herzustellenden Österreich auch davon abhängig sei, inwieweit es sich am Widerstand gegen das Hitlerregime beteiligte.