Középiskolába Sárospatakon járt - az 1945/46. tanév kivételével, amit Svájcban (Institut auf dem Rosenberg, Sankt Gallen) töltött. Érettségit Patakon tett 1951-ben, és az ottani Teológiai Akadémiára iratkozott be, de az már politikai intézkedések következtében nem nyithatta meg a tanévet. Teológiai tanulmányait ebből következően Debrecenben végezte, ahol Török István professzor tanítványai közé tartozott. Első lelkészképesítő vizsgáját (1956) követően Dögén volt segédlelkész, majd Sárospatakra került. A Kollégium diktatórikus lefejezése után egyházi kézben maradt Tudományos Gyűjtemények Nagykönyvtárának munkatársa lett. Az edelényi egyházközség meghívta lelkipásztornak 1966-ban, ahol 1975-ig szolgált.

Időközben megnősült, felesége Szilágyi Katalin szintén teológiát végzett, négy gyermekük született.

A Magyarországi Református Egyház Doktorainak Kollégiuma 1972-ben megalakult. Főtitkára, Makkai László professzor ragaszkodott ahhoz, hogy annak egyháztörténeti jellegű kutatóintézete, tudományos főmunkatársa pedig Barcza József legyen. Így költözött Debrecenbe családjával, ahol vezette a Közép-keleteurópai Reformáció-történet Kutató Intézetet.

A Tiszántúli Református Egyházkerület Levéltárát 1995. január 1. - 1996. május 31. között igazgatta, a Sárospataki Református Teológiai Akadémia Egyháztörténeti Tanszékének élén 1994-től nyugalomba vonulásáig, 1998-ig állt.

Doktori disszertációja az első kiadásban 1980-ban megjelent Bethlen Gábor, a református fejedelem című könyve volt. Doktori fokozatot és kutatóprofesszori rangot 1981-ben kapott.

A református egyháztörténet-írás jeles nemzedékéhez tartozott. E nemzedék tagjai a Zoványi Jenő, Révész Imre és mások nevével fémjelzett örökséget vették át és művelték magas színvonalon. Barcza József azon kevesek egyike volt, akiknek munkássága le is zárt ezen a területen egy nagy ívű és gazdag termésű korszakot.

Keresztjeit - feleségét, két gyermekét eltemette - hittel és alázattal hordozta.