Pyhän kasteen puolustus on yksi Hedbergin merkittävimpiä teoksia. Kun Ruotsiin 1800-luvulla levinnyt baptismi sai kannattajia Hedbergin ruotsalaisten ystävien piirissä, hän kirjoitti baptistista kastekäsitystä vastustavan, raamatullisiin ja luterilaisiin perusteisiin nojautuvan jumaluusopillisen tutkimuksen. Poleemisesta luonteestaan huolimatta tämä teos tarjoaa lukijalle runsaasti kasteen perusteita koskevaa ainesta, joka tämän päivän luterilaisessa kastejulistuksessa on jäänyt vaille huomiota.