Masjid agung At-taqwa Balikpapan memiliki bangunan arsitektur yang mengadopsi dari gaya arsitektur negri Timur Tengah. Dominasi antara bangunan arsitektur Masjid Nabawi dengan Turki Ustmani. Ini bisa terlihat dari bangunan menara yang ada di empat sudut bangunan masjid. Desain menara ini juga hampir sama dengan menara di masjid Nabawi Madinah.
Untuk gaya arsitektur turki bisa terlihat dari desain kubahnya. Bangunan kubah masjid ini dari jenis enamel steel panel berwarna biru yang memiliki diameter 16 m. Bahan pembuat kubah yang terlihat mengkilat dan berkilau-kilau ketika tertimpa sinar lampu ataupun matahari, sehingga memantulkan aura biru setelah terkena cahaya. Kubah masjid ini juga didesain dengan ornamen berwarna kuning. Sementara ada kubah yang berukuran lebih kecil, berwarna dan ornamen sama telah menutup bagian ujung pada empat menara disebelahnya.
Bangunan kubah yang menggunakan bahan dari plat baja yang memiliki ketebalan antara 0.8mm sampai 1.6 mm ini meskipun gampang berkarat namun dengan adanya pengecatan system enamel akan membuat bahan tersebut telah terlindungi dari karat. Sehingga daya tahan dari cat enamel bisa lebih dari beberapa puluhan tahun dengan catatan tak ada cacat fisik cat enamel yang dilakukan.
Dari proses pengecatan hingga pada saat pengaplikasinya berada di lapangan. Akan tetapi jika ada cacat fisik, tentu bisa menimbulkan celah dan terjadi proses pengaratan terhadap bahan dasarnya. Sedangkan kekurangan lain ialah cat enamel ini tak dapat dicat ulang. Sehingga akan menghemat pengeluaran pembenahan masjid. Inilah yang menjadi alasan kenapa jenis kubah masjid satu ini banyak digunakan untuk masjid-masjid mewah. Selain warnanya sangat mencolok, ternyata kekuatan cat nya bisa awet hingga 30 tahun tanpa pengecatan ulang. Asalkan ketika pembuatannya tidak ada kesalahan yang terjadi sedikitpun.
Tampak dari depan masjid, lantai dasar masjid tertutup dengan bangunan tangga sebagai jalan menuju latai 1. Pada bagian bawah tangga juga terdapat tempat wudhu maupun toilet yang bersih. Sesudah melewati anak tangga yang berlantaikan marmer, sampailah ke lantai 1. Di bagian inilah, letak mi’rob masjid berada.
Bangunan lantai masjid telah menggunakan marmer warna putih kemerah-merahan. Sementara dinding bagian mi’rob telah didominasi dengan batu marmer berwarna hitam dengan kombinasi merah bata. Disertai hiasan kaca yang bisa tembus pandang bermotif pada bagian kiri ataupun kanannya.
Bagian plafon masjid ini berbentuk kotak-kotak yang memiliki warna dasar putih dengan dikombinasi dengan warna orange. Bahan dasar untuk plafon dibuat dari bahan gypsum. Pada bagian langit-langit kubah juga telah diberi kaligrafi lafadz Allah yang memiliki kombinasi warna coklat, ungu, orange, kuning, dan biru. Ada juga lampu gantung unik pada bagian tengahnya yang dibuat dari bahan tembaga disertai hiasan berwarna kuning serta hijau.
Untuk desain pintu dengan jendelanya juga mempunyai sudut segitiga berbahan kayu ukir yang sangat indah. Untuk penyangga bangunan ada 4 pilar sebagai saka guru berukir memiliki dominasi warna putih.
Pada teras samping kiri ada ornamen sederhana yang menyerupai huruf X yang tidak sama dengan teras sisi kanannya. Perbedaan lain dari kedua sisi teras ini terletak pada ujung teras kanannya ada sebuah bedug yang berukuran standart.
Keindahan masjid akan terlihat lebih menarik ketika malam hari. Adanya lampu-lampu yang telah meneranginya juga akan membuat masjid terlihat sangat bercahaya bila dilihat dari kejauhan. Hal inilah yang menjadi daya tarik bagi pengunjung wisata untuk berkunjung ke masjid agung at-taqwa Balikpapan ketika malam hari.