Masjid Sultan Abu Bakar terletak di Negara Malysia, tepatnya di Jalan Skudai, pusat Bandar, Johor Baru. Bangunan masjid tersebut memang terlihat sudah sangat tua, karena memang didirikan pada antara tahun 1892 sampai dengan 1900 oleh Sultan Abu Bakar, Tumenggung Johor pada saat itu serta dikenal sebagai “Bapak Johor Modern”. Memang beliau terkenal dengan sebutan itu karena pada masa kepemimpinan Sultan Abu Bakar pada abad ke-19, beliau memproklamirkan politik yang ditujukan kepada pedagagang etnis china agar semakin mengembangkan bisnis mereka terutama pada bidang pertanian. Selain itu, beliau juga memerintahkan perbaikan dalam pembangunan infrastruktur, sistem administrasi, pelayanan masyarakat, serta pembangunan pertahanan militer dengan mengadopsi budaya barat.
Pada tahun 1892 Sultan Abu Bakar memberikan mandat kepada Tuan Haji Mohamed Arif bin Punak, sebagai arsitek dalam pembangunan masjid ini. Beliau merupakan seorang arsitek yang berkiprah di negara inggris dalam pembangunan 19th Century Clocktowers atau Menara Jam Central di Inggris pada Abad ke 19. Peletakan batu pertama dimulai pada tanggal 1 Muharam 1310 H (Tanggal 26 Juli 1892), kemudian proses pembangunan baru dimulai setahun kemudian (1311 H / 1893 M).
Proses pembangunan masjid Sultan Abu Bakar memerlukan waktu yang lumayan lama, yaitu sekitar 8 tahun lamanya. Kemudian, masjid tersebut baru selesai dibangun dan diresmikan pada tanggal 1 Syaawl 1319 H atau 2 Februari 1900, dengan total biaya pembangunan keseluruhan masjid sebesar 400.000 ringgit pada waktu itu.
Masjid ini didesain bergaya Eropa dengan sentuhan melayu yang sangat apik, meskipun saat sekarang terlihat sebagai bangunan kuno, namun pada masanya bangunan tersebut merupakan bangunan yang sangat modern.
Meskipun sudah berusia sangat tua, ternyata pemerintah dan masyarakat sekitar tetap mempertahankan keaslian dari masjid Sultan Abu Bakar tersebut, sebagai wujud penghargaan terhadap sultan, serta menghargai perjuangannya dalam membangun Johor, Malaysia pada waktu itu. Apalagi, pada abad ke-19, Malaysia memang sempat mencapai kejayaannya dibawah pimpinan Sultan Abu Bakar.
Jika kita mengintip bagian dalam masjid, kita akan disuguhi dengan interior serta hiasan yang mirip dengan Masjidil Aqso, Palestina. Ditambah dengan ornamen yang terpasang pada pilar-pilar masjid dengan bentuk memanjang. Pilar-pilar tersebut berderet mulai dari dekat pintu masuk, sampai ke dekat mimbar.
Pada pintu masuk ruang utama sebagai tempat sholat, terdapat Cawan (tempat minum) antik yang terbuat dari kuningan. Menurut informasi dari warga sekitar, kemungkinan besar Cawan tersebut difungsikan sebagai tempat peletakan menyan, atau pewangi bakar sebagai pengharum ruangan pada masa itu, namun sekarang sudah tidak difungsikan lagi.
Masjid dengan umur lebih dari 100 tahun ini tetap dijaga kelestarian dan keindahannya oleh masyarakat setempat, tanpa melakukan sebuah renovasi. Mereka khawatir jika renovasi dilakukan akan menghilangkan nilai sejarah, serta kenangan peninggalan “Bapak Johor Modern” kala itu. Apalagi desain dari arsitektur mumpuni tersebut sampai saat ini tidak goyah oleh waktu, tetap berdiri kokoh meskipun bangunan sudah termakan usia.
Ada beberapa hal unik yang dimiliki masjid ini, misalnya saja mimbar bertingkat yang digunakan sebagai tempat khutbah pada waktu sholat jum’at dilaksanakan. Juga diketahui bahwa speaker (pengeras suara) muadzin yang digunakan adalah peninggalan pada zaman dulu, dimana bentunya menyerupai terompet besar.
Dibagian depan masjid terdapat menara yang sangat gagah, tempat dikumandangkan adzan. bangunan menara tersebut terlihat sangat klasih, karena dibangun menyerupai adat istiadat orang eropa.