Kelenteng Gedung Batu Sam Po Kong adalah sebuah petilasan, yaitu bekas tempat persinggahan dan pendaratan pertama seorang Laksamana Tiongkok beragama Islam yang bernama Zheng He, atau lebih dikenal dengan nama Cheng Ho. Terletak di daerah Simongan, sebelah barat daya Kota Semarang. Tanda yang menunjukan sebagai bekas petilasan yang berciri keislamanan dengan ditemukannya tulisan berbunyi “Me Zheng Lan Yin” yang berarti “Marilah kita mengheningkan cipta dengan mendengarkan bacaan Al Qur’an.”
Disebut Gedung Batu karena bentuknya merupakan sebuah Gua Batu besar yang terletak pada sebuah bukit batu. Orang Indonesia keturunan cina menganggap bangunan itu adalah sebuah kelenteng, mengingat bentuknya yang berarsitektur Cina sehingga mirip sebuah kelenteng.
Sekarang tempat tersebut dijadikan sebagai tempat peringatan dan tempat pemujaan atau bersembahyang serta tempat untuk berziarah. Untuk keperluan tersebut, di dalam gua batu itu diletakan sebuah altar, serta patung-patung Sam Po Tay Djien. Padahal Laksamana Cheng Ho adalah seorang Muslim, tetapi oleh mereka (masyarakat Tionghoa non-muslim) dijadikan sebagai Dewa yang dipuja. Hal ini dapat dimaklumi mengingat aliran Kong Hu Cu menganggap orang yang sudah meninggal dapat memberikan pertolongan kepada mereka.
Menurut cerita, Laksamana Cheng Ho sedang berlayar melewati laut jawa, kemudian ada salah seorang awak kapalnya yang sakit, ia memerintahkan armadanya untuk merapat ke pantai utara Semarang dan membangun sebuah masjid di tepi pantai yang sekarang telah berubah fungsi menjadi Kelenteng. Bangunan itu sekarang telah berada di tengah kota Semarang diakibatkan pantai utara jawa selalu mangalami pendangkalan. Terjadi sedimentasi sehingga lambat laun daratan akan semakin bertambah luas ke arah utara.
Konon, setelah Cheng Ho meninggalkan tempat tersebut karena ia harus melanjutkan pelayarannya, banyak awak kapalnya yang tinggal di desa Simongan dan menikah dengan penduduk setempat. Mereka bersawah dan berladang di tempat itu. Cheng Ho memberikan pelajaran bercocok tanam serta menyebarkan ajaran-ajaran Islam di sana.