1908 wurde Hess für die Zentrumspartei im Wahlkreis Köln/Land-Bergheim-Euskirchen in das Preußische Abgeordnetenhaus gewählt, wo er sich als Verteidiger der konfessionellen Schule einen Namen machte. Als Mitglied der Landesversammlung und des Landtages gehörte er nach dem 1. Weltkrieg zu den Befürwortern der Weimarer Koalition in Preußen. Im Zusammenwirken mit Felix Porsch erreichte er, dass die politische Führung des preußischen Zentrums bei der Fraktion lag. Hess erfreute sich eines hohen Ansehens bei den führenden preußischen Sozialdemokraten. Ende Januar 1930 wurde er als Nachfolger von Porsch zum Vorsitzenden der Landtagsfraktion und kurz darauf auch zum Vorsitzenden der preußischen Zentrumspartei gewählt. Hess setzte sich u. a. für den Abschluss des Preußenkonkordats (1929) und des Evangelischen Kirchenvertrags (1931) ein. Mit Nachdruck unterstützte er die Politik Heinrich Brünings.