New York City ligt aan de kust van het noordoosten van de Verenigde Staten aan de monding van de rivier de Hudson in het zuidoosten van de staat New York. Het ligt in het estuarium van de haven van New York-New Jersey, met als middelpunt de haven van New York, waarvan het diepe water en de beschutte baaien de stad hebben helpen groeien in betekenis als handelsstad. Een groot deel van New York is gebouwd op de drie eilanden Manhattan, Staten Island en westelijk Long Island, waardoor land schaars is en een hoge bevolkingsdichtheid wordt gestimuleerd.
De Hudson River stroomt vanuit de Hudson-vallei in de New York Bay en wordt een getijden-estuarium dat de Bronx en Manhattan scheidt van Noord-New Jersey. De Harlem River, een andere zeestraat tussen de East River en de Hudson River, scheidt Manhattan van de Bronx.
De boroughs van New York City liggen op de grens tussen twee geologische provincies van oostelijk Noord-Amerika. Brooklyn en Queens, gelegen op Long Island, maken deel uit van de oostelijke kustvlakte. Long Island is een massieve morene die zich heeft gevormd aan de zuidelijke rand van de Laurentide ijskap tijdens de laatste ijstijd. De Bronx en Manhattan liggen aan de oostelijke rand van het Newark Basin, een blok aardkorst dat tijdens het uiteenvallen van het supercontinent Pangaea in het Trias naar beneden zonk. De Palisades Sill aan de New Jersey oever van de Hudson rivier legt oud, ooit gesmolten gesteente bloot dat het bekken vulde. Hard metamorf gesteente ligt ten grondslag aan een groot deel van Manhattan en vormt een solide ondersteuning voor de vele wolkenkrabbers.
Het land van de stad is aanzienlijk veranderd door menselijk ingrijpen, met aanzienlijke landaanwinning langs de waterfronten sinds de Nederlandse koloniale tijd. De ontginning is het meest opvallend in Lower Manhattan met moderne ontwikkelingen zoals Battery Park City. Veel van de natuurlijke variaties in topografie zijn geëgaliseerd, vooral in Manhattan. De westkant van Manhattan is nog enigszins heuvelachtig, vooral in Upper Manhattan, terwijl de oostkant aanzienlijk vlakker is geworden. Duffy’s Hill in East Harlem is een opmerkelijke uitzondering op de relatief vlakke helling van de East Side.
Het landoppervlak van de stad wordt geschat op 321 vierkante mijl (830 km2). Een recentere schatting komt echter uit op een totale landoppervlakte van 304,8 vierkante mijl (789,4 vierkante kilometer). Het hoogste natuurlijke punt in de stad is Todt Hill op Staten Island, met een hoogte van 124,9 m de hoogste heuvel aan de oostkust ten zuiden van Maine. De top van de heuvelrug is grotendeels bedekt met bossen als onderdeel van de Staten Island Greenbelt.