A cidade de Nova York está localizada na costa do Nordeste dos Estados Unidos, na foz do rio Hudson, no sudeste do estado de Nova York. Está localizada no estuário do porto de New York-New Jersey, cuja peça central é o porto de New York, cujas águas profundas e baías abrigadas ajudaram a cidade a crescer em importância como cidade comercial. Grande parte de Nova York é construída nas três ilhas de Manhattan, Staten Island e Long Island ocidental, tornando a terra escassa e encorajando uma alta densidade populacional.
O rio Hudson flui do Hudson Valley para a baía de Nova York, tornando-se um estuário de maré que separa o Bronx e Manhattan do norte de Nova Jersey. O rio Harlem, outro estreito de maré entre o leste e os rios Hudson, separa Manhattan do Bronx.
Os bairros da cidade de Nova York se encontram na fronteira entre duas províncias geológicas do leste da América do Norte. Brooklyn e Queens, localizadas em Long Island, são parte da planície costeira oriental. Long Island é uma enorme morena que se formou na borda sul da Laurentide Ice Sheet durante a última Era Glacial. O Bronx e Manhattan ficam na margem oriental da Bacia de Newark, um bloco da crosta terrestre que afundou durante a desintegração do supercontinente Pangaea durante o período Triássico. A Palisades Sill, na margem do rio Hudson, em New Jersey, expõe rochas antigas, outrora dissolvidas, que enchiam a bacia. As duras rochas metamórficas estão subjacentes a grande parte de Manhattan, fornecendo um sólido suporte para os seus muitos arranha-céus.
As terras da cidade foram alteradas consideravelmente pela intervenção humana, com uma substancial recuperação de terras ao longo das frentes de água desde os tempos coloniais holandeses. A recuperação é mais notável na Baixa Manhattan, com empreendimentos modernos como o Battery Park City. Muitas das variações naturais da topografia foram niveladas, particularmente em Manhattan. O Lado Oeste de Manhattan mantém algumas colinas, especialmente na Alta Manhattan, enquanto o Lado Leste tem sido consideravelmente achatado. Duffy’s Hill em East Harlem é uma notável exceção ao grau relativamente nivelado do East Side.
A área de terreno da cidade é estimada em 321 milhas quadradas (830 km2). Contudo, uma estimativa mais recente calcula uma área total de terreno de 304,8 milhas quadradas (789,4 km2). O ponto natural mais alto da cidade é Todt Hill em Staten Island, que a 409,8 pés (124,9 m) acima do nível do mar é a colina mais alta da costa leste ao sul do Maine. O cume do cume é em grande parte coberto por florestas como parte do cinturão verde de Staten Island.