Tato zahrada, nebo lépe zahrada na místě dnešní Pálffyovské zahrady, se v historických dokumentech připomíná až v roce 1681, kdy koupil dům s pozemkem zahrady měšťan Šimon A. Renner, který v domě zřídil hospodu a postaral se také o zahradu. V roce 1712 dům prodal a zahrada splynula se zahradou, sousedící na východní straně. Novou výstavbu a zřízení zahrady uskutečnila však v roce 1751 Marie Anna, manželka Josefa V. Fürstenberka. Na první terasu s vodotryskem se přichází schodištěm. Otevře se podhled na mohutnou stavbu, kterou vede tunelový průchod na další terasu. Osové schodiště pak pokračuje až na vyhlí loggii a vrchol zahrady. Na štítu nad portálem jsou zdobené sluneční hodiny s nápisem "Claret in orbe dies, ac taetras, hora pete umbras" (volně přeloženo: Jasný buď po světě den a hnusné zaplašuj stíny).

Po znovuotevření Ledeburské a Malé Pálffyovské zahrady v roce 1995 se stavební aktivita přesunuta na II. etapu - restituci Velké Pálffyovské, Kolowratské a Malé Fürstenberské zahrady. Tyto práce byly dokončeny v roce 1999.
Při obnově Velké Pálffyovské zahrady byl plně respektován barokní koncept. Byly použity veškeré dochované součásti. Úprava parteru respektovala princip zahradní úpravy z dvacátých let 19. století. Na původním dně byla věrně obnovena kruhová fontána s litinovou plastikou tritona. Byla zcela zachována mohutná terasová zeď s plastickým portálem a tunelovým schodištěm. Na nejvyšší terase této trasy je také umístěna mramorová pamětní deska, odhalená v den znovuotevření zahrady, 3. září 1997.
Doposud znovuotevřené Zahrady pod Pražským hradem poskytují veřejnosti oázu klidu a důstojnosti. Jsou ale také využívány pro různé kulturní a společenské události jako koncerty, zahradní slavnosti, módní přehlídky a jiné akce. Galerie Ledeburského paláce je využívána jako galerie k výstavám uměleckých děl.