New York City az Egyesült Államok északkeleti partvidékén, a Hudson folyó torkolatánál, New York állam délkeleti részén található. A New York-New Jersey kikötő torkolatvidékén helyezkedik el, amelynek központi része a New York-i kikötő, amelynek mély vize és védett öblei segítették a város jelentőségének növekedését kereskedelmi városként. New York nagy része a három szigetre, Manhattanre, Staten Islandre és a nyugati Long Islandre épült, ami szűkössé teszi a földterületet és elősegíti a nagy népsűrűséget.
A Hudson folyó a Hudson-völgyből a New York-i öbölbe ömlik, és árapályos torkolattá válik, amely elválasztja Bronxot és Manhattant Észak-New Jersey-től. A Harlem folyó, egy másik árapály-szoros az East és a Hudson folyók között, elválasztja Manhattant Bronx-tól.
New York City kerületei Észak-Amerika keleti részének két geológiai tartományának határán húzódnak. A Long Islanden fekvő Brooklyn és Queens a keleti parti síkság része. Long Island egy hatalmas moréna, amely a Laurentide-jégtakaró déli peremén alakult ki az utolsó jégkorszak alatt. Bronx és Manhattan a Newark-medence keleti peremén fekszik, amely a földkéreg egy olyan tömbje, amely a Pangaea szuperkontinens széthullása során, a triász időszakban süllyedt lefelé. A Hudson folyó New Jersey-i partján található Palisades Sill a medencét kitöltő ősi, egykor olvadt kőzetet tár fel. Manhattan nagy része alatt kemény metamorf kőzetek húzódnak, amelyek szilárd támaszt nyújtanak a sok felhőkarcolónak.
A város földjét jelentősen megváltoztatta az emberi beavatkozás, a holland gyarmati idők óta a vízpartok mentén jelentős földkiemelés történt. A rekultiváció Lower Manhattanben a legjelentősebb az olyan modern fejlesztésekkel, mint a Battery Park City. A domborzat természetes eltéréseinek nagy részét kiegyenlítették, különösen Manhattanben. Manhattan nyugati oldala továbbra is dombos, különösen Upper Manhattanben, míg az East Side jelentősen ellaposodott. A Duffy’s Hill Kelet-Harlemben az egyik figyelemre méltó kivétel az East Side viszonylag sík terepszintje alól.
A város területét 321 négyzetmérföldre (830 km2) becsülik. Egy újabb becslés azonban 304,8 négyzetmérföldre (789,4 négyzetkilométer) számítja a teljes szárazföldi területet. A város legmagasabb természetes pontja a Todt Hill a Staten Islanden, amely a maga 409,8 láb (124,9 m) tengerszint feletti magasságával a legmagasabb domb a keleti parton Maine-től délre. A hegygerinc csúcsát a Staten Island Greenbelt részeként nagyrészt erdők borítják.