Köböl József 1909. december 8-án született Karcagon. Árván nevelkedett, testvérei iskoláztatták, és mint a család legfiatalabb tagját gimnáziumba íratták, de azt anyagi okok miatt a nem tudta befejezni, asztalos inasnak állt. Tanonc iskolatársai vitték el a Famunkások Szakszervezetébe. 1926. decemberében Rózsa Richárd vonta be őt a KIMSZ-be. 1928. elején a KIMSZ Budapesti Bizottságának tagja, itt ismerkedett meg Kádár Jánossal. 1929-ben letartóztatták, majd több heti vizsgálati fogság után szabadon engedték. Munkáltatója a rendőrség felszólítására elbocsátotta. Berlinbe, majd Franciaországba utazott, ahol szakmájában helyezkedett el, és bekapcsolódott a szakszervezeti mozgalomba is. 1931-ben érvényes munkavállalási engedély híján kitoloncolták, hazatérve újra felvette a kapcsolatot a KIMSZ-szel, és ennek Budapesti Bizottságán dolgozott, de májusban letartóztatták, és novemberig fogva tartották. A szabadulása után a KIMSZ Budapesti Bizottságának tagjaként dolgozott. Részt vett a KMP féllegális szervezetében, az Egyesült Szakszervezeti Ellenzékben. 1932-ben egy ideig a KIMSZ Újpest–Rákospalotai kerületének összekötője, majd 1933. végén a KMP Budapesti Bizottságának tagja. 1934. nyarán a Szovjetunióba küldték a Lenin Iskolába tanulni. 1935. őszén a KIMSZ képviselőjeként részt vett a Kommunista Ifjúmunkás Internacionálé VI. kongresszusán, ahol fel is szólalt. 1936. végén befejezte tanulmányait, és Franciaországon keresztül hazajött. 1937-ben hazatért, és bekapcsolódott a szakszervezeti mozgalomba. Egy év múlva Rózsa Richárd újra bevonta a párt földalatti tevékenységébe, felső kapcsolata Rózsa Ferenc volt. 1942. március 15-ei tüntetés nyomán 1943-ban tárgyalás nélkül az ún. különleges munkásszázaddal Jászberénybe került, de a doni visszavonulás miatt már nem tudták őket a frontra küldeni. A Vácott megtartott tárgyaláson nyolc év börtönre ítélték szervezkedésért. 1944. novemberében a párt engedélyével aknaszedésre jelentkezett Sopronba, és hamis papírokkal megszökött, bekapcsolódott az Ellenállási Mozgalomba. 1945. januárjában a VIII. kerületi pártszervezet megalakításával bízták meg, majd február végén Csepelre küldték hasonló feladattal, ahol a Demény-frakció felszámolását irányította. 1946-ban Demény Pál tárgyalásán népi ülnök volt. Májustól a Budapesti Pártbizottság szervezési osztályát vezette. Az MKP III. Kongresszusán a KV Szervezőbizottság póttagja, valamint a KV póttagja lett. Benne van az MKP azon titkos bizottságában, amely a Szociáldemokrata Párttal való egyesülést volt hivatott megszervezni. A KV 1950. májusi ülésén kimaradt a Szervező Bizottságból. 1954. decemberétől az MDP KV Párt és Tömegszervezetek Osztályának vezetője. Az MDP KV 1956. október 23–24-én tartott ülésén beválasztották a Politikai Bizottságba, de négy nappal később kimaradt a vezetésből. Október 30-án a leváltott Kovács István helyett a Budapesti Pártbizottság titkára. 1956 novemberben Kádár be akarta vonni a felső vezetésbe, de Köböl ezt elutasította. Tagja az MSZMP Központi Bizottságnak. A KB 1957. februári ülésén Gyenes Antallal ellenzi, hogy Nagy Imre és társai ellen büntető eljárást indítanak. Az MSZMP KB 1957. júniusi plénuma előtt felmentik KB-tagsága alól és megrovásban részesítik. 1957. május 5-étől az építésügyi miniszter helyettese 1960-ban történő felmentéséig. 1961-től az Országos Tervhivatal főosztályvezetője 1973-as nyugdíjazásáig. 1978-ban részt vesz a Charta ’77 polgárjogi mozgalom letartóztatott aktivistáival szolidaritást vállaló akcióban. Cselekedetéért közvetett retorziók érik, 1945-től datálódó fővárosi tanácstagságát, illetve a szakszervezetek központi vezetőségében betöltött pozícióját is elveszti.