ഇന്ത്യയിലെ ആദ്യത്തെ പള്ളിയാണ് കൊടുങ്ങല്ലൂരില്‍ സ്ഥിതിചെയ്യുന്ന ചേരമാന്‍ ജുമാമസ്ജിദ്. നാട്ടുരാജാവായിരുന്ന ചേരമാന്‍ പെരുമാള്‍ മുഹമ്മദ് നബിയെ കാണാന്‍ മക്കയിലേക്ക് പോയി തിരിച്ചു വരുമ്പോള്‍ വഴിമധ്യേ അദ്ദേഹം മരണപ്പെട്ടുവെന്നും ആ കൂട്ടത്തിലുണ്ടായിരുന്ന മാലിക്ബിന്‍ ദീനാറിന്റെ കൈയില്‍ കൊട്ടാരത്തിലേക്ക് ഒരെഴുത്ത് കൊടുത്തു എന്നുമാണ് ചരിത്രം. എഴുത്തുമായി വരുന്നവര്‍ക്ക് എല്ലാ സൗകര്യങ്ങളും ചെയ്തുകൊടുക്കണം എന്നായിരുന്നു അതിലുണ്ടായിരുന്നത്. അതുപ്രകാരം മാലിക് ബിന്‍ ദീനാറിനും സഹചാരികള്‍ക്കും ജീവിക്കാനും ആരാധനാ കര്‍മങ്ങള്‍ നിര്‍വഹിക്കുവാനുമുള്ള സൗകര്യങ്ങള്‍ രാജകുടുംബം ചെയ്തുകൊടുത്തു. അങ്ങനെയാണ് ഇന്ത്യയിലെ ആദ്യപള്ളി ക്രിസ്താബ്ദം 629 ല്‍ കൊടുങ്ങല്ലൂരില്‍ സ്ഥാപിതമാവുന്നത്. 

പള്ളിയുടെ ആദ്യ പുനര്‍നിര്‍മാണം 11ാം നൂറ്റാണ്ടില്‍ നടന്നു എന്നാണ് വിശ്വസിക്കപ്പെടുന്നത്. അതുകഴിഞ്ഞ് 300 വര്‍ഷങ്ങള്‍ക്കുശേഷം വീണ്ടും പള്ളി പുനര്‍നിര്‍മിച്ചു. പിന്നീട് വിശ്വാസികളുടെ എണ്ണം വര്‍ധിച്ചപ്പോള്‍ 1974ല്‍ പഴയ പള്ളിയുടെ മുന്‍ഭാഗം നീക്കം ചെയ്തുകൊണ്ട് കൂടുതല്‍ വിശാലമായി പള്ളി വിപുലീകരിച്ചു. മുന്‍വശത്തുനിന്ന് അല്പഭാഗം നീക്കം ചെയ്തുവെങ്കിലും മിഹ്‌റാബും മിമ്പറും എല്ലാം അടങ്ങുന്ന ഉള്‍ഭാഗം അതുപോലെത്തന്നെ നിലനിര്‍ത്തി. വിശ്വാസികളുടെ അംഗസംഖ്യവീണ്ടും വര്‍ധിച്ചപ്പോള്‍, പഴയ പള്ളി എങ്ങനെയായിരുന്നുവോ അതേ മാതൃകയില്‍ പള്ളി പുതിക്കിപ്പണിയാന്‍ 2001ല്‍ തീരുമാനിച്ചു. ആ മാതൃകയിലുള്ള പള്ളിയാണ് ഇപ്പോള്‍ നിലവിലുള്ളത്. പള്ളി നിരവധി തവണ വിശാലമാക്കുകയും പുതുക്കിപ്പണിയുകയും ചെയ്തുവെങ്കിലും അകമേയുള്ള പഴമയും തടിപ്പണികളും എല്ലാം അതേപടിതന്നെ നിലനിര്‍ത്തിയിരിക്കുന്നു. വിശാലമാക്കിയത് പഴയ പള്ളിക്ക് പുറത്തുള്ള ഭാഗങ്ങള്‍ മാത്രമാണ്.

മുസ്‌ലിം സമൂഹത്തിന്റ ആരാധനാ കേന്ദ്രം ആണെങ്കിലും അമുസ്‌ലിം സഹോദരങ്ങള്‍ പോലും ഒരു പുണ്യസ്ഥലമായാണ് ഈ പള്ളിയെ പരിഗണിക്കുന്നത്. റമദാന്‍ മാസത്തില്‍ അമുസ്‌ലിംകള്‍ മുസ്‌ലിംകള്‍ക്കുവേണ്ടി ഇഫ്താര്‍ പോലും ഈ പള്ളിയില്‍ സംഘടിപ്പിക്കുന്നു. പല അമുസ്‌ലിംകളും അവരുടെ മക്കള്‍ക്ക് ഈ പള്ളിയില്‍വെച്ച് വിദ്യാരംഭത്തിന് തുടക്കം കുറിക്കുന്നു.

രണ്ടുവര്‍ഷം കൂടുമ്പോള്‍ ജനറല്‍ബോഡി ചേര്‍ന്ന് തെരഞ്ഞെടുക്കുന്ന കമ്മിറ്റിയാണ് പള്ളിയുടെ ഭരണ നിര്‍വഹണം നടത്തുന്നത്. 1600 കുടുംബങ്ങളിലായി 7000 അംഗങ്ങള്‍ ചേരമാന്‍ പള്ളി കേന്ദ്രീകരിച്ചുള്ള മഹല്ലില്‍ ഉണ്ട്.