Jakob Kaiser war als christlicher Gewerkschafter einer der führenden Köpfe des Berliner Kreises um Carl Goerdelerund ein wichtiger Verbindungsmann zum Kölner Kreis , dem er ebenfalls angehörte. Er überlebte als einer der ganz wenigen der maßgeblich an den Widerstandsplanungen Beteiligten das 3. Reich. Die inhaltlichen Überlegungen von Kölner und Berliner Kreis brachte er nach Kriegsende in die Neugründung der CDU ein.
Neben Konrad Adenauer und Kurt Schumacher zählte er zu den herausragenden Politikern der Nachkriegszeit von 1945 bis 1949.
Kaiser wuchs als eines von 10 Geschwistern in Hammelburg in Franken auf. Nach der Volksschule machte er bei seinem Vater eine Buchbinderlehre. Er trat dem katholischen Gesellenverein bei und nutzte seine Fortbildungsmöglichkeiten und wurde bald Vorstandsmitglied. Ab 1912 war er als Kartellsekretär der christlichen Gewerkschaften in Köln tätig.
Nach dem 1. Weltkrieg, den er als Soldat an Ost- und Westfront erlebte, übernahm Kaiser die Leitung der Jugendsektion der christlichen Gewerkschaften. Im Anschluss an die Novemberrevolution wurde er Mitglied im Kölner Arbeiter- und Soldatenrat und wandelte sich vom Monarchisten zum Republikaner. Er unterstützte die Gründung des DGB, einer gewerkschaftlichen Dachorganisation, der die sozialdemokratischen Gewerkschaften allerdings nicht beitraten. Außerdem teilte er die Ideen des christlichen Gewerkschaftsführers Adam Stegerwald zur Gründung einer überkonfessionellen nationalen und sozialen Volkspartei, die später bei der CDU-Gründung wieder zum Tragen kam.
Seit April 1924 war er Landesgeschäftsführer der Christlichen Gewerkschaften für das Rheinland und Westfalen, seit 1928 auch Mitglied des geschäftsführenden Reichsvorstandes der Deutschen Zentrumspartei und bis 1933 Reichstagsabgeordneter.
Kaiser unterstützte den vergeblichen Plan des Reichskanzlers Generals von Schleicher den arbeiterfreundlichen Strasserflügel der NSDAP in die Republik einzubinden.
Nach dem 30.1.1933 beteiligte er sich an den Bemühungen, als Gegengewicht zur nationalsozialistischen DAF (deutsche Arbeitsfront) eine Einheitsgewerkschaft mit dem soziademokratischen FDGB zu schaffen. Nach der Zerschlagung der sozialdemokratischen Gewerkschaften verweigerte er konsequenterweise die Unterzeichnung der Unterwerfungs- und Eingliederungserklärung der christlichen Gewerkschaften. "Ich unterschreibe keine Kapitulation" (Kaiser gegenüber dem DAF-Führer Robert Ley, 1933). Die Nationalsozialisten enthoben ihn daraufhin seiner Funktion als Landesgeschäftsführer und drohten ihm die Inhaftnahme an. Er kehrte nach Köln zurück.
Kaiser wurde "Bevollmächtigter der ehemaligen Angestellten der früheren christlichen Gewerkschafter" und stritt für deren Sozialansprüche. Außerdem erlaubte ihm diese Tätigkeit durch das Reichsgebiet zu reisen und ein Kontaktnetz mit seinen früheren Kollegen aufzubauen. Eine Verhaftung im Jahre 1938, die mit einer frühzeitigen Freilassung "aus Mangel an Geständnissen" endete, schadete ihm nicht weiter und beendete seine Aktivitäten nicht. Die Kontakte zu Wilhelm Leuschner von den (sozialdemokratischen) Freien Gewerkschaften und Max Habermann vom deutschnationalen Handlungsgehilfenverband behielt Kaiser auch nach der Zerschlagung der Gewerkschaften bei und traf sich einmal wöchentlich mit den beiden.
1935 lernte Kaiser den 1934 aus Protest gegen die NS-Politik zurückgetretenen Generalstabschef der Reichswehr, Generaloberst v. Hammerstein, kennen und kam damit in Kontakt zur beginnenden Militäropposition. Hammerstein hatte sich während der Reichskanzlerschaft Schleichers für dessen Plan einer "Gewerkschaftsachse" von den Freien Gewerkschaften bis zum Strasser-Flügel der NSDAP eingesetzt. Traditionell herrschte zwischen den konservativen, preußisch-protestantischen und meist der Oberschicht angehörigen Offizieren und den katholischen Arbeitern des Rheinlandes völlige Fremdheit, so dass hier eine Schranke durchbrochen wurde. Kaiser informierte die KAB-Spitze im Kölner Kettelerhaus, die er schon seit vielen Jahren gut kannte, über diese Gespräche. Er nahm regelmäßig an den Treffen des Kölner Kreises in der Privatwohnung von Nikolaus Groß teil. Die KAB-SPitze verfasste wie auch die Gewerkschaftler um Kaiser, Denkschriften für Generaloberst Fritsch, den Nachfolger Hammersteins, der 1938 der riskanten Außenpolitik Hitlers widersprach und dann zurücktreten musste.
1939 nahm Kaiser außerdem Beziehungen zu Generaloberst Oster in der Abwehr auf, der schon vor 1939 an Putschplänen beteiligt war. Gemeinsam mit den Vertretern der anderen Gewerkschaften schloss er sich in Berlin der zivilen Widerstandsgruppe um den ehemaligen deutschnationalen Reichspreiskommissar Carl Goerdeler an, der mit den Jahren die unterschiedlichsten politischen, sozialen und konfessionellen Gruppen bzw. Personen um sich sammelte, um ein breites Bündnis gegen Hitler zu schmieden. Mit Letterhaus, der seit 1942 in Berlin war, sorgte er dafür, dass die Verbindungen zwischen Kölner Kreis und der Goerdeler-Gruppe enger wurden und Goerdeler den ihm bis dahin fremden Sozialkatholizismus Westdeutschlands kennen lernte, um den Goerdeler-Kreis reichsweit auszudehnen sowie ihm eine Schichten überspannende Basis zu verleihen. Die Kreise stimmten ihre Zukunftsvorstellungen miteinander ab; Kaiser und Groß übernahmen mit gegenseitigen Reisen nach Köln bzw. Berlin die gegenseitige Abstimmung. 1942 beriet man über sozialpolitische Entwürfe, die gegen Ende des Jahres in Bezug auf die Einheitsgewerkschaft zum Abschluss kamen. Parteipolitisch einigte man sich auf eine "Partei der Werktätigen" nach Vorbild der englischen Labour-Partei, die aber auch anderen Bevölkerungsschichten offen stehen sollte.
Mit Leuschner, Goerdeler, Letterhaus u.a. machte sich Kaiser über die Politischen Beauftragten Gedanken, die für die zivilen, verwaltungstechnischen Maßnahmen und die Unterrichtung der Bevölkerung nach dem Putsch zuständig sein und den Kommandeuren der Wehrkreise zur Seite gestellt werden sollten. Zur Besprechung der Personalfragen für Westdeutschland kam Goerdeler im Herbst 1943 nach Köln und traf sich mit Kaiser und dem Kölner Kreis. Nach einer kontroversen Debatte an zwei Abenden konnte eine nicht überlieferte, provisorische Liste beschlossen werden. Kaiser bat daraufhin Groß, den ehemaligen Zentrumspolitiker Bartholomäus Koßmann zu werben. Über die Attentatsplanungen war Kaiser unterrichtet. Schon Ende 1942 informierte er den Kölner Kreis darüber. Er wusste auch, dass 1944 Stauffenberg, den er persönlich kannte, das Attentat selbst ausführen wollte. Kurz vor dem 20.7.1944 äußerte Stauffenberg gegenüber Kaiser: "Wir haben uns vor Gott und unserem Gewissen geprüft: es muss geschehen".
Nach dem gescheiterten Attentat vom 20. Juli 1944 suchte die Gestapo Kaiser. Doch er tauchte unter und überlebte in einem Kellerversteck in Potsdam-Babelsberg.1945 gehörte Kaiser zu den Mitbegründern der CDU, nachdem sich die Idee einer Labour-Partei nach Wiedergründung der SPD nicht mehr verwirklichen ließ. Er übernahm ihren Vorsitz für Berlin und die sowjetische Besatzungszone. Die zweite Idee aus dem Widerstand, die Einheitsgewerkschaft, wurde Wirklichkeit. Kaiser wurde Mitglied des Vorbereitenden Gewerkschaftsausschusses Groß-Berlin und 1946/47 des DGB-Bundesvorstands sowie des Landesvorstands Groß-Berlin. Im Dezember 1947 setzte die sowjetische Besatzungsmacht ihn ab, da er sich gegen die "Blockpolitik" und die Teilnahme der Ost-CDU am 1. Deutschen Volkskongress ausgesprochen hatte. Von 1946 bis 1949 gehörte Kaiser der Berliner Stadtverordnetenversammlung an und vertrat die Stadt im Parlamentarischen Rat in Bonn. 1949 wurde er als Abgeordneter der CDU in den ersten Bundestag gewählt und zum Minister für Gesamtdeutsche Fragen berufen. Er opponierte gegen den Kurs Adenauers der Westbindung, weil er sie als Gefährdung der Einheit Deutschlands sah. Zehn Jahre - zwischen 1948 und 1958 - arbeitete er außerdem als Vorsitzender der Sozialausschüsse in der CDU.
Jakob Kaiser starb am 7. Mai 1961 in Berlin.