Мечеть Малая Айа София, первоначально построенная Византийским императором Юстинианом в качестве церкви, расположена между кварталами Джанкуртаран и Кадырга в районе Эминоню. Построенная в 530 гг. церковь, была известна под названием Церкви Св. Сергия и Вакха. После завоевания Константинополя оттоманами, во время правления султана Байезида II она была преобразована в мечеть надзирателем гарема султана (Дарюссааде Ага) Хусеином Ага. Позднее вокруг двора мечети были сооружены завие (кельи для медитаций) и усыпальница Хусеина Ага.

Куполообразная мечеть, построенная исключительно из камня и кирпича на квадратной площади, была повреждена в результате землетрясений 1648 и 1763 гг. и восстановлена в 1831 г. Кроме того, расположенная поблизости железная дорога, построенная в 1860 г., в значительной степени повредила здание мечети. Предпологается, что старый минарет мечети в стиле Барокко был установлен во второй половине 18 века. Однако, в 1936 г. минарет был снесен по неизвестной причине. В 1955 г. был возведен нынешний минарет мечети. Выполненный из мрамора восьмигранный исторический шадырван был снесен в 1938 г.