La Mosquée de la Petite Sainte-Sophie a été construite en tant qu'église par l’Empereur Byzantin Iustinianos entre les quartiers de Cankurtaran et Kadirga, à Eminonu. Cette église édifiée en 530 sous le nom de Sergios et Bakhos, a été transformée en mosquée après la conquête d’Istanbul sous le règne de Bayezid II, par Huseyin Aga de Darussaade. Puis des cellules de zaviye (constructions où s’organisaient les activités de tariqa) et le turbe de Huseyin Aga ont été structurés autour de la cour.

La mosquée a été construite en coupole sur un plan carré et  les murs sont en pierre et en brique. Elle a été endommagée après les tremblements de terre de 1648 et 1763 puis a été restaurée en 1831. La ligne ferroviaire installée en 1860, a gravement endommagé la construction. Par ailleurs, l’ancien minaret architecturé au style baroque, est supposé être structuré à la deuxième partie du 18e siècle.  En 1936, ce minaret s’est effondré, sans raison précise et après une longue attente, en 1955 le minaret actuel a été ajouté à la mosquée. Le shadirvan historique en marbre composé d’une piscine octogone, situé dans la cour, a été détruite en 1938.