Dibalik kemegahan masjid Agung Karawang ternyata terdapat sebuah sejarah panjang penyebaran agama Islam di wilayah provinsi Jawa Barat. Sheikh Hasanuddin atau dikenal juga dengan Sheikh Quro merupakan seseorang yang berperan penting dalam berkembangnya syiar islam di Karawang dan wilayah Jawa Barat. Namun perlu diketahui bahwa bangunan masjid Agung Karawang saat ini bukan lagi bangunan asli yang dulu pertama kali didirikan oleh Sheikh Quro. Hal itu karena dilaksanakan renovasi, perbaikan hingga pembangunan kembali yang dilakukan oleh Bupati Karawang waktu dahulu hingga Bupati di era Kemerdekaan.
Pada tahun 1633 hingga 1677 M Bupati Karawang yaitu Adipati Singaperbangsa memiliki kantornya di daerah Udug-udug. Tetapi karena berbagai pertimbangan kantornya dipindahkan ke pelabuhan Karawang. Di tempat ini terdapat pasar, masjid Agung dan beberapa sarana penunjang lain sehingga tempat ini selalu ramai setiap waktu. Telah dibangun sebuah alun-alun yang ditanami 2 pohon beringin dibagian kanan kiri di dekat masjid Agung. Sesaat setelah itu, Adipati Singaperbangsa menjadikan bangunan masjid ini lebih indah dan direnovasi selaras dengan kantor kabupaten yang baru dibangun.
Pada waktu itu Bupati Karawang merupakan bawahan dari Sultan Agung yang memiliki tekad tinggi untuk mempersatukan kerajaan-kerajaan di pulau Jawa dan disekitarnya. Kota Karawang juga dipersiapkan menjadi pusat penyerangan tentara Mataram terhadap tentara VOC atau kompeni Batavia. Selain itu, Karawang juga menjadi kota lumbung padi sebagai pusat logistik pada saat peperangan tersebut. Adipati Singaperbangsa melaksanakan tugas pemerintahannya secara baik dengan memfungsikan masjid Agung Karawang sebagai tempat ibadah dan sebagai tempat berkumpulnya para pejuang kemerdekaan. Beliau melaksanakan tugas tersebut selama hampir 44 tahun kemudian wafat pada tahun 1677 M dan dimakamkan di Manggung Ciparage.
Selanjutnya Bupati digantikan oleh Panatayuda I, Panatayuda II dan Panatayuda III namun tidak melanjutkan perbaikan terhadap masjid Agung Karawang. Panatayuda I atau juga disebut dengan Raden Anom Wirasuta menjabat pada tahun 1677 hingga 1721 M memiliki kantornya di Waru dekat Loji, Pangkalan. Sedangkan Panatayuda III atau Raden Martanegara menjabat dari tahun 1732 hingga tahun 1752 berkantor di tempat yang sama dengan Raden Anom Wirasuta.
Kepemerintahan dilanjutkan oleh Bupati Karawang V yaitu Raden Muhammad Soleh atau Panatayuda V yang memerintah dari tahun 1752 hingga 1786 M. pada masanya kantor Bupati dipindahkan kembali ke Babakan Rekayasa. Selain itu, Bupati V dikenal juga dengan ‘dalem nalon’. Raden Muhamad Soleh wafat dan dimakamkan dekat masjid Agung dan di tahun 1973 atas persetujuan dari berbagai sesepuh jenazahnya dipindahkan dan dimakamkan kembali di komplek makam Bupati Karawang Desa Manggung Jaya Cilamaya.
Masjid Agung Karawang memiliki arsitektur khas Indonesia dalam skala yang lebih besar. Masjid ini memiliki atap yang bersusun tiga dengan empat sokoguri utama menopang atap masjid. Bagian plafon masjid sengaja terbuka agar memudahkan udara masuk dan juga berfungsi sibagai masuknya sinar matahari. Terdapat bangunan dua lantai berbentuk mazenin yang cukup luas bagi para jamaah di bagian dalam masjid.
Masjid Agung Karawang memiliki pilar yang berjumlah 6 menyimbolkan enam rukun Islam. Terdapat juga hiasan kaligrafi di sisi mihrab bagian kiri dan kanannya juga berada di bagian dinding dalam masjid. Kaligrafi dan lkisan geometris menambah keindahan sisi mihrab masjid Agung Karawang. Diseblah masjid ada bangunan kecil tempat menyimpan beduk dan kentongan yang berukuran besar. Masjid ini selalu ramai oleh para jamaah sekitar apalagi ketika di bulan Ramadhan.