New York City se nachází na pobřeží severovýchodní části Spojených států při ústí řeky Hudson v jihovýchodní části státu New York. Nachází se v ústí přístavu New York-New Jersey, jehož ústředním bodem je newyorský přístav, jehož hluboké vody a chráněné zátoky pomohly městu získat na významu jako obchodní město. Velká část New Yorku je postavena na třech ostrovech Manhattan, Staten Island a západní část Long Islandu, což způsobuje nedostatek půdy a podporuje vysokou hustotu osídlení.
Řeka Hudson teče z údolí Hudson do New Yorského zálivu a stává se přílivovým ústím, které odděluje Bronx a Manhattan od severní části New Jersey. Harlem River, další přílivová úžina mezi řekami East a Hudson, odděluje Manhattan od Bronxu.
Čtvrtě New Yorku se rozkládají na hranici mezi dvěma geologickými provinciemi východní části Severní Ameriky. Brooklyn a Queens ležící na Long Islandu jsou součástí východní pobřežní nížiny. Long Island je mohutná moréna, která se vytvořila na jižním okraji Laurentidského ledového příkrovu během poslední doby ledové. Bronx a Manhattan leží na východním okraji Newarské pánve, bloku zemské kůry, který se během rozpadu superkontinentu Pangaea v období triasu propadl směrem dolů. Palisádový práh na newjerseyském břehu řeky Hudson odhaluje prastaré, kdysi roztavené horniny, které pánev vyplňovaly. Tvrdé metamorfované horniny jsou podkladem velké části Manhattanu a poskytují pevnou oporu mnoha mrakodrapům.
Půda města byla značně pozměněna lidskými zásahy, od holandských koloniálních dob probíhala na nábřežích značná rekultivace. Rekultivace je nejmarkantnější na dolním Manhattanu s moderní zástavbou, jako je Battery Park City. Zejména na Manhattanu byly vyrovnány mnohé přirozené rozdíly v topografii. Západní část Manhattanu si zachovala určitou kopcovitost, zejména na Horním Manhattanu, zatímco východní část byla značně zarovnána. Duffy’s Hill ve východním Harlemu je jednou z pozoruhodných výjimek z relativně rovného sklonu East Side.
Plocha města se odhaduje na 321 čtverečních mil (830 km2). Novější odhad však počítá s celkovou rozlohou 304,8 čtverečních mil (789,4 km2). Nejvyšším přírodním bodem ve městě je Todt Hill na Staten Islandu, který je se svými 409,8 stopami (124,9 m n. m.) nejvyšším kopcem na východním pobřeží jižně od Maine. Vrchol hřebene je z velké části pokrytý lesem jako součást zeleného pásu Staten Island Greenbelt.