I eit brev frå pave Eugenius 3. i 1146 blir St. Nicolaus-kyrkja på Herdla nemnt. Den gamle steinkyrkja stod heilt fram til 1861. Då ho blei riven og dagens kyrkje reist på dei same tuftene.
I 1934 brann kyrkja, men blei bygd opp att året etter. Under krigen reiv okkupanten tårn og tak og brukte kyrkjebygget som lager og stall. Også denne gongen blei kyrkja bygd opp att og kunne vigslast på ny i 1951. På grunn av planar om sivil flyplass på Herdla var det gjenreiste tårnet mykje lågare enn det opphavlege. I 2008 blei tårnet heva til si opphavleg høgd.
