Nowy Jork położony jest na wybrzeżu północno-wschodnich Stanów Zjednoczonych u ujścia rzeki Hudson w południowo-wschodnim stanie Nowy Jork. Znajduje się w ujściu New York-New Jersey Harbor Estuary, którego centralnym punktem jest New York Harbor, którego głębokie wody i osłonięte zatoki pomogły miastu urosnąć w znaczenie jako miasto handlowe. Znaczna część Nowego Jorku jest zbudowany na trzech wyspach Manhattan, Staten Island, i zachodniej Long Island, dzięki czemu ziemi mało i zachęcając do wysokiej gęstości zaludnienia.
The Hudson River płynie z doliny Hudson do New York Bay, stając się ujście pływów, które oddziela Bronx i Manhattan z północnej New Jersey. Rzeka Harlem, kolejna cieśnina pływowa między rzekami East i Hudson, oddziela Manhattan od Bronxu.
Dzielnice Nowego Jorku znajdują się na granicy dwóch prowincji geologicznych wschodniej części Ameryki Północnej. Brooklyn i Queens, położone na Long Island, są częścią wschodniej równiny przybrzeżnej. Long Island jest masywną moreną, która uformowała się na południowym skraju lądolodu Laurentide podczas ostatniej epoki lodowcowej. Bronx i Manhattan leżą na wschodnim skraju basenu Newark, bloku skorupy ziemskiej, który zapadł się w dół podczas rozpadu superkontynentu Pangaea w okresie triasu. Palisades Sill na brzegu New Jersey rzeki Hudson odsłania starożytne, niegdyś stopione skały, które wypełniały basen. Mocne skały metamorficzne leżą u podstaw dużej części Manhattanu, zapewniając solidne wsparcie dla jego wielu drapaczy chmur.
Ląd miasta został znacznie zmieniony przez interwencję człowieka, ze znaczną rekultywacją gruntów wzdłuż nabrzeży od czasów kolonialnych Holendrów. Rekultywacja jest najbardziej zauważalna na Dolnym Manhattanie z nowoczesnymi inwestycjami, takimi jak Battery Park City. Duża część naturalnych różnic w topografii została wyrównana, szczególnie na Manhattanie. Zachodnia strona Manhattanu zachowała pewne wzniesienia, szczególnie na Górnym Manhattanie, podczas gdy wschodnia strona została znacznie spłaszczona. Duffy’s Hill w East Harlem jest jednym godnym uwagi wyjątkiem od East Side’s stosunkowo level grade.
Powierzchnia lądowa miasta jest szacowana na 321 mil kwadratowych (830 km2). Jednakże, bardziej aktualne szacunki oblicza całkowitą powierzchnię 304,8 mil kwadratowych (789,4 km2). Najwyższym naturalnym punktem w mieście jest Wzgórze Todt na Staten Island, które przy wysokości 409,8 stóp (124,9 m) nad poziomem morza jest najwyższym wzniesieniem na wschodnim wybrzeżu na południe od Maine. Szczyt grzbietu jest w dużej mierze pokryty lasami jako część Staten Island Greenbelt.