Kirik pärineb 14. saj. algupoolest ja võlviti nähtavasti 14.saj. lõpul. Keskajast pärinevad nii sakramendi niŝŝ kui ka rituaalne kätepesunõu kiriku idaseinas.
Kirik kannatas korduvalt sõdades, kuid võlvid siiski säilisid. Pärast Põhjasõda katustati kirik alles 1742.

Vahepealseid kaoseaegu mäletab rahvatraditsioon, mille järgi Kolga-Jaani kiriku olevat paksu metsa seest leidnud jahimehed, kes mingil kõrgemal kohal lõket tehes avastanud, et asuvad kiriku lael.

Huvitav teada:

* 1890-1917 oli koguduse õpetajaks Villem Reimann, üks Eesti rahvusliku liikumise juhte