Observatórium v Patterson Parku, ktoré v rokoch 1891-1892 postavil miestny staviteľ Cornelius Sheehan, bolo dielom dizajnéra Charlesa H. Latrobea. Túto obľúbenú stavbu väčšina miestnych obyvateľov pozná jednoducho ako „Pagodu“.

Štvorposchodová veža je vysoká 18 metrov a je postavená zo železa, skla a dreva. Stojí na kopci Hampstead Hill, ktorý bol kľúčovým bojiskom počas bitky o Baltimore v roku 1814.
Z najvyššieho poschodia sa naskytá úchvatný výhľad na všetky strany vrátane panorámy centra mesta a vnútorného prístavu, rieky Patapsco, Sparrows Point, mosta Key Bridge, pevnosti Fort Carroll a pevnosti Fort McHenry.

Observatórium chátralo pre nedostatok finančných prostriedkov na údržbu a v roku 1951 bolo zatvorené. V priebehu rokov sa uskutočnili čiastočné rekonštrukcie, ale v roku 1990 mala stavba vážne problémy a bola takmer zbúraná.
Úsilie členov komunity spolu s mestskou radou viedlo v roku 1998 k rozsiahlej rekonštrukcii, ktorá trvala do začiatku roka 2002 a pripravila pôdu pre adopciu Pagody komunitou ako ikonického symbolu vytrvalosti, o ktorý sa teraz stará miestna organizácia „Priatelia Patterson Parku“.

Observatórium má osemuholníkový tvar a je vybavené točitým schodiskom, ktoré vedie na každé jeho poschodie. Hoci sa fyzicky trochu podobá na pagodu, nie je to skutočná pagoda.
Tento termín je odvodený od stúp v starovekom Nepále a tradične sa používa na označenie relikviára používaného na náboženské účely budhistami a inými ázijskými kultúrami.

Existuje hnutie za obnovenie názvu stavby na „Observatórium“, aby sa presnejšie opísal jej zamýšľaný účel. Čas ukáže, či miestni obyvatelia, ktorí ju vždy poznali pod známejším pomenovaním, prijmú a budú namiesto neho používať jej skutočný názov.

