Masjid Kampung Melayu terletak di tepi Kali Semarang. Masjid kecil atau langgar ini memiliki menara, yang semula merupakan mercusuar pelabuhan lama. Mercusuar Willem III sebagai bagian dari pengembangan pelabuhan Semarang menggantikan peran yang lama, dan selanjutnya pada mercusuar lama didirikan langgar untuk warga Kampung Melayu dan para pelewat Kali Semarang. Langgar lama yang merupakan bangunan panggung dengan struktur pendukung atap tajug oleh saka guru. Konstruksi bangunan seluruhnya kayu. Lantai bawah merupakan tempat wudhu, seperti halnya pada langgar lama yang berupa kolam, dan lantai atas yang dilapisi papan kayu merupakan ruang sholat. Renovasi yang diperkirakan texadi antara tahun 1930-1950-an telah mengaburkan tampilan konstruksi kayu dengan mengubahnya menjadi bangunan batu yang kokoh. Lantai tetap dipertahankan. Perubahan selanjutnya yang dilakukan pada akhir dekade pertama abad ke-21 untuk berlindung dari banjir air pasang betul-betul menghilangkan jejak langgar berpanggung. Lantai dasar ditutup. Menara tidak mengalami perubahan berarti, kecuali tambahan-tambahan minor. Masjid Menara Kampung Melayu penting karena merupakan tetenger penting dalam kawasan bersejarah Kampung Melayu yang bhinneka. Selain itu juga menjadi petanda tahap perkembangan Semarang sebagai kota maritime.