北宋时期，当时的首都东京居住着来宋朝经商的犹太人。南宋孝宗隆兴元年(1163)，建立了这座清真寺。该寺于19世纪中期毁弃。幸亏法籍神甫孟正庆曾为该寺绘了两张图，一为寺的全景，一为寺的内观，使这个在开封存在约700年之久的犹太教清真寺的面貌得以保存下来。

     据图可知寺东西长130米，南北宽50米，大门后有一座牌楼，上有康熙御书“敬天祝国”匾额。主要大厅名“一赐乐业殿”，左右分别立有“康熙二年碑”和“弘治碑”。大厅后面为“天堂”，原藏有多部经卷，可惜后多被欧美传教士掠走。