A hazánkban különleges megoldásnak számító egyhajós, szimmetrikus elrendezésű, kétkápolnás alaprajzú középkori templom kiemelkedik a román kori templomaink sorából. A barokk kori átépítésekből megmaradt legépebb középkori részlete a déli kápolnája. Fennmaradt kőfaragványai, alakos domborműtöredékei az esztergomi építkezésekkel rokonítják, és francia tanultságú építőműhelyt feltételeznek.

A jánoshidai premontrei prépostságot 1186-ban III. Béla engedélyével a terület János nevű birtokosa alapította Keresztelő Szent János tiszteletére. Az alapító a kor szokása szerint temetkezőhelyéül és a környező népek lelki gondozásának biztosítására szánta a templomot. Az alapító személyét nem ismerjük, de a királyi udvarral bizonyára kapcsolatban állhatott. 1535-ben János király a prépostság birtokait felerészben Pásztóy Miklósnak adományozta. A birtokok ezután hamarosan a törökök kezére kerültek. A török hódoltság megszűnése után többször cserélődtek a gazdák, majd 1688-ban I. Lipót Meyners Kázmér strachovi premontrei kanonoknak adományozta. Matuska Kristóf prépostot tartják a prépostság hódoltság utáni helyreállítójának. 1757-ben szentéllyel és toronnyal bővíttette a templomot.

1772-1786-ig II. József rendeletére feloszlatták a rendet, ezt I. Ferenc 1802-es rendelete szüntette meg. Ettől kezdve Jánoshidának magyar prépostjai voltak.

1757-ben barokk stílusban átépítették a templomot és a rendházat is. A kutatások alapján nyomon követhetőek a középkori templom maradványai a barokk átépítésből. Román stílusban épült temploma egyhajós elrendezésű volt, két kiugró sokszögzáródású oldalkápolnával és szintén poligonális szentéllyel. A sokszög öt oldalával záródó szentélyei az eddig ismert legkorábbi ilyen alaprajzi megoldásnak számítanak hazánkban az esztergomi palotakápolna mellett. A déli kápolna és a szentély szögletében állt a sekrestye, amelyet a barokk kori helyreállítás során elbontottak. Helyette az északi oldalon épült fel az új sekrestye. A déli kápolna kapuja épen megmaradt, ezen kívül egy timpanon töredék, ablaktöredékek és egyéb faragott kő részletek, alakos domborműtöredékek alapján feltételezhető, hogy francia tanultságú építőműhely építette.

Az elfalazott román kori kapu lépcsőzetes kávájú, félköríves záradékú, pillér- és oszlopfőit szépen formált levelek és bimbók díszítik. A hajó és a kápolnák közötti nagy, félköríves záródású nyílások szintén román koriak. Az átépítés megváltoztatta a templom arányait, a szentélyt meghosszabbították, a nyugati oldalon a hajót bővítették. Ekkor kapta új, kőkeretes főbejáratát, felette a bővítést elrendelő prépost kettős címerével. A homlokzat előtt álló tornyon, a hajó és a szentély két oldalán, valamint a kápolnákon barokk ablakokat helyeztek el. Kivételt képez néhány helyreállított román kori ablak (a hajó falaiban kelet felé esők és a déli kápolna falában levők). A főkaputól kissé balra álló Nepomuki Szent János szobor is a bővítés idején készülhetett. Az északi kápolna alatt kriptát tártak fel a kutatók, mely feltehetőleg a XVII-XVIII. század fordulóján épült.

A templombelsőt korábban festett síkmennyezet fedte, ezt erős gerendákkal aláfogott síkfödémmel cserélték fel. A kápolnákat az átépítés során új boltozatokkal látták el. A hajó két oldalán sorakoznak a faragott, egyszerű barokk padok.

A XIX. század harmincas éveiben a premontreiek új rendházat építettek a templomtól délnyugatra, a régivel szemben lévő levő telek nyugati végében. A régi kolostorépületet lebontották. Az új, klasszicista stílusban épült, U-alaprajzú, egyemeletes rendház főhomlokzata a temploméval együtt nyugat felé néz. Az új plébánia felépülése után benne óvodát és lakásokat helyeztek el. Az 1987-ben történt felújítása során szociális otthonná alakították át.