In Köln geboren und katholisch. Mit 16 Jahren trat er nach kaufmännischer Lehre in den Postdienst ein. 1904 bekleidete er das Amt des Stellvertretenden Vorsitzenden des Windthorst-Bundes in Köln. Im Oktober 1912 wurde Bitter hauptamtlicher Parteisekretär der Zentrumspartei im Reichstagswahlkreis für Recklinghausen–Borken, nachdem er nur kurzzeitig Sekretär des „Volksvereins für das Katholische Deutschland“ in Elsass-Lothringen war. Im November 1912 wechselte er seinen Wohnort von Köln-Deutz nach Recklinghausen. Im August 1914 erfolgte Militärdienst, wegen einer Verwundung im Jahre 1916 jedoch die Entlassung aus dem Kriegseinsatz.

Von 1919 bis 1923 war Bitter in Recklinghausen Stadtverordneter für die Zentrumspartei, Sekretär der Zentrumspartei im Reichstagswahlkreis Recklinghausen-Borken, von 1921 bis 1925 auch Mitglied des Provinziallandtages Westfalen. Bitter war Mitbegründer des sog. Ketteler-Hauses in Recklinghausen, der ersten Parteischule und Arbeiterbildungsstätte der Zentrumspartei im Reichsgebiet. Ab 1922 übernahm Bitter Verlagsleitung und Vorstandsvorsitz der „Vestischen Druck- und Verlagsanstalt“ (Vesdruvag) in Recklinghausen, damit auch die Herausgeberschaft der zentrumsnahen „Recklinghäuser Volkszeitung“ nebst sieben weiteren Lokalzeitungen in der Region. Im Januar 1934 kam es zur Verhaftung Bitters durch die Gestapo nach der Weigerung, sog. Pflichtmeldungen von NS-Instanzen zu veröffentlichen, bis 1945 wiederholten sich kurzfristige Inhaftierungen und Wohnungsdurchsuchungen wegen „nationaler Unzuverlässigkeit“ auf Grund von regimekritisch-publizistischen Tätigkeiten. 1940 vollzog sich die Enteignung der „Recklinghäuser Volkszeitung“, zugleich kam es zum Verbot der Herausgabe des „Kirchenblattes für die Diözese Münster“, eines der auflagenstärksten Diözesanzeitschriften im Reichsgebiet.

1938 gründete Bitter den „Paulus-Verlag K. Bitter KG, Verlag für katholisches Schrifttum“ (hilfsweise benannt nach seiner Ehefrau Katharina B.). 1944 publizierte Bitter neben katholischen Kleinschriften auch den Hirtenbrief des Münsteraner Bischofs Clemens Graf von Galen über dessen NS-kritische sog. Euthanasiepredigt von August 1941 als Separatdruck. Nach kurzfristiger Ausweisung aus Recklinghausen und Rückkehr im Januar 1945 stand Bitter schon ab April 1945 als ehrenamtlicher Dezernent für Wirtschaft, Verkehr, Ernährung in städtischen Diensten.

Am 15. Juli 1946 wurde Bitter von der Stadtverordnetenversammlung in das Amt eines ehrenamtlichen Oberbürgermeisters gewählt (Amtsantritt am 17. September 1946, am 15. Januar 1948 wiedergewählt). Bitter war schon im Januar 1946 an der Gründung der CDU in Recklinghausen beteiligt, dessen Kreisverbandsvorsitzender er bis 1948 war. Von 1946 bis 1947 war Bitter Mitglied des Landtages von Nordrheins-Westfalen, von 1946 bis 1952 CDU-Ratsherr und Fraktionsvorsitzender im Rat der Stadt Recklinghausen, ab 1949 Vorstandsmitglied im CDU-Landesverband Westfalen-Lippe, später auch im CDU-Bundesvorstand.

Ferner war Bitter 1947 Mitbegründer und bis Februar 1964 Vorsitzender der Kommunalpolitischen Vereinigung (KPV) der CDU Nordrhein- Westfalen (1964 auch Ehrenvorsitzender). In diesem Zusammenhang gründete Bitter 1949 auch den „Kommunal-Verlag“ für Fachliteratur über Städtewesen und Kommunalpolitik und war Mitherausgeber der CDU-nahen „Kommunalpolitische Blätter“. Bereits im Frühjahr 1945 erwarb Bitter von den Besatzungsbehörden