Проект пустыни был составлен Пьетро Антонио Трезини еще в 1748 году. Архитектору не довелось осуществить этот замысел в камне — спустя три года Трезини покинул Россию. Тем не менее, проекты сохранились, и в 1756 году по ним было начато строительство. Центральным зданием пустыни стал Троицкий собор. Компактный, крестообразный в плане, он венчался пятью широко расставленными куполами в духе древнерусского пятиглавия. С западной стороны к собору была пристроена колокольня. В интерьере обращали на себя внимание три высоких богато вызолоченных иконостаса.
В ансамбль пустыни, согласно проекту, также должны были быть включены отдельно стоящие корпуса келий и четыре угловые башни.
На протяжении XIX века комплекс пустыни дополнялся новыми зданиями, нарушившими цельность ансамбля. Троицкий собор был взорван в 1962 году, в период хрущевской антирелигиозной кампании. В настоящее время от первоначального ансамбля сохранился настоятельский корпус и одна из угловых башен.