Jako pierwszy na terenie dzisiejszego Nowego Jorku wylądował w 1524 roku włoski podróżnik Giovanni da Verrazano. W 1609 roku angielski nawigator Henry Hudson dokładniej zbadał te tereny, zanim wyruszył w górę nazwanej później od jego nazwiska Hudson River. W 1614 roku do wyspy Manhattan dotarli pierwsi osadnicy holenderscy i założyli tam faktorię handlową, nazwana później Nowym Amsterdamem. W roku 1626 Peter Minut wykupił wyspę od miejscowych Indian za równowartość 24 dolarów. Nowy Amsterdam stał się największym skupiskiem Holendrów w Nowym Świecie. W 1664 roku, po zdobyciu miasta przez Anglików, zmieniono jego nazwę na Nowy Jork.
Pod panowaniem brytyjskim miasto stało się ważnym ośrodkiem amerykańskim ruchu niepodległościowego. To właśnie w tym mieście Georgie Washington założył w 1776 r. swą kwaterę główną. Po wojnie o niepodległość Nowy Jork stał się na pięć lat (1785-1790) siedzibą władz Stanów Zjednoczonych i stolicą (1798-1790). To właśnie tutaj w 1789 roku Washington został zaprzysiężony na stanowisko prezydenta USA. Aż do 1796 roku Nowy Jork był też stolicą stanu, później przeniesiono ją do Alabamy.
Wiek XVIII to okres dynamicznego rozwoju miasta. W 1784 roku Alexander Hamilton założył Bank of New York, powstawały towarzystwa ubezpieczeniowe, a bogactwo mieszkańców przyciągało do miasta coraz więcej ludzi. W 1790 roku liczba mieszkańców Nowego Jorku przekroczyła 33 tysiące. Powstawały nowe drogi, szkoły, gazety, szpitale i pierwsze zakłady przemysłowe. Miasto odrywało się od brzegów morza i rozrastało się coraz bardziej na północ. W 1825 roku otwarto dla żeglugi Kanał Erie łączący miasto z Wielkimi Jeziorami i dalej na północ, co pozwalało na rozwinięcie działalności handlowej. W 1830 roku w Nowym Jorku mieszkało już 200 tys. ludzi.
Wiek XIX i początek XX to okres napływu wielkiej fali imigrantów z Europy. Tysiące z nich osiedlało się tam, gdzie wylądowali – właśnie w Nowym Jorku. W zamian za pracę, mieszkanie i prezenty nowo przybyli imigranci zgadzali się często oddać swe głosy na konkretne ugrupowanie polityczne, głównie demokratów. Szerzącą się korupcję próbowała powstrzymać dopiero w latach 30. administracja burmistrza Fiorello La Guardi.
Nie licząc zamieszek wywołanych poborem do wojska w 1863 r., w czasie wojny secesyjnej Nowy Jork generalnie opowiadał się po stronie Północy. W 1898 roku miasto zostało podzielone na pięć dzielnic. Na początku XX wieku miasto zunifikowało i rozbudowało komunikację miejską.
Aż do lat 70. naszego stulecia Nowy Jork przezywał okres prosperity. Potem nastąpił kryzys. W związku z przeniesieniem się wielu firm poza obręb Nowego Jorku i masowymi przeprowadzkami klasy średniej na obrzeża miasta kasa miejska straciła dużą część dochodów. W latach 80. sytuacja miasta poprawiła się, dawało się jednak zauważyć pewne spowolnienie tendencji rozwojowych. Jak wiele innych wielkich metropolii również i Nowy Jork boryka się z wieloma problemami, problemami których najważniejsze to: starzejąca się infrastruktura miejska, zanieczyszczenie środowiska, bezdomni i przestępczość. przestępczość 1990 roku po raz pierwszy w historii burmistrzem został Murzyn, Dawid Dinkins. Później przez dwie kadencje rządził Rudy Giuliani, który wsławił się ograniczeniem przestępczości i promowaniem turystyki.