La mosquée a été construite en 1561 par L’Architecte Sinan sur la demande du fameux Sadrazam (Vizir) Ottoman d’origine Croate, Rustem Pacha, époux de la Sultane Mihrimam, la fille de Soliman le Magnifique. L’architecture de l'édifice est loin de la simplicité de l'époque et de Sinan. Les éléments décoratifs, loin d’être sobres, qui ornent la mosquée sont en faïence d’Iznik.
Ce monument historique située à Eminonu sur la descente qui va au littoral d’Uzun Carsi, se trouve dans une zone résidentielle très peuplé. La mosquée, édifiée sur l’emplacement du Mescid de Halil Haci, occupe une superficie de 40x40. Le plafond est couvert d’une coupole centrale de 15.50 mètres de diamètre qui est supportée par des petites coupoles et demi-coupoles.

La Mosquée de Rustem Pacha a été endommagée après l’incendie de 1660 et  après le tremblement de terre de 1766, la coupole et le minaret de la mosquée se sont effondrés. Ce monument historique a été restauré pendant le règne du sultan Mustafa II et après cette restauration, le minaret et l’architecture de la coupole qui s’était effondrée ont perdu les traits de L’Architecture de Sinan.
Comme dans la Mosquée de la Sultane Mihrimah, les épitaphes sont aussi présentes dans la mosquée de Rustem Pacha.  Le shadirvan octogone de la mosquée est situé dans une cour sur l’avenue.  La haute cour qui entoure la mosquée sur trois côté, est encerclée par un portique.

Les faïences d’Iznik utilisées pour la décoration intérieure de la mosquée placée sur la silhouette de la péninsule historique, apparaît comme un grand tableau dont les visiteurs y sont placés comme des éléments propres.