Ennen eurooppalaisten saapumista New Yorkissa asui kaksi vaikutusvaltaista intiaaniheimoa, algonkit ja irokeesit. Tutkimuksia tekivät useiden maiden miehet. Ranskan palveluksessa ollut italialainen Giovanni da Verrazano ja hollantilaisten palveluksessa ollut englantilainen Henry Hudson vierailivat rannikolla. Hudson purjehti ylös jokea, joka myöhemmin nimettiin Hudsoniksi, mikä antoi hollantilaisille oikeuden huomattavaan alueeseen. Samuel de Champlain teki tutkimusmatkoja pohjoisesta, mikä antoi Ranskalle oman aluevaatimuksensa.

Hollantilaiset perustivat ensimmäiset valkoisten asumukset alkaen Fort Orangesta (nykyinen Albany). Vuonna 1625 hollantilaiset siirtolaiset perustivat New Amsterdamin Manhattanin saarelle. Seuraavana vuonna heidän kuvernöörinsä Peter Minuit osti koko saaren intiaaneilta noin 24 dollarilla. Hollantilaiset lisäsivät uusia siirtokuntia Hudson-joen varrella, kun taas uusia uudisasukkaita saapui Massachusettsista ja Connecticutista ja perusti yhteisöjä Long Islandille.

Englannin kuningas Kaarle II päätti pakottaa hollantilaiset pois ja lähetti laivaston Uuden Amsterdamin alueelle. Minuit antautui kaupungissa ilman taistelua. Vuoden 1667 Bredan sopimuksella englantilaiset saivat koko Uuden-Netherlandin, jonka he nimesivät uudelleen New Yorkiksi. Samaan aikaan ranskalaiset painostivat pohjoisesta. Vuosina 1689-1763 käytiin useita sotia, jotka tunnetaan Ranskan ja intiaanien sotana. Pariisin sopimus vuonna 1763 päätti konfliktin lopullisesti pakottamalla Ranskan luopumaan lähes kaikista alueistaan Pohjois-Amerikassa.

New York City oli brittien miehittämä suurimman osan itsenäisyyssodasta, ja kaupungissa oli paljon lojalisteja. Noin 30 000 ihmistä lähti osavaltiosta sodan päätyttyä. New York City oli maan pääkaupunki vuosina 1785-1790, ja George Washington vihittiin ensimmäiseksi presidentiksi New Yorkin Federal Hallissa vuonna 1789.

New York kasvoi nopeasti, ja vuonna 1820 se syrjäytti Virginian maan väkirikkaimpana osavaltiona. Se piti tätä asemaa, kunnes Kalifornia ohitti sen vuonna 1970. Erie-kanava toi lisää vaurautta New Yorkin osavaltion pohjoisosaan ja antoi New York Citylle etulyöntiaseman kaikkiin muihin itäisiin merisatamiin nähden.

New York perusti vuonna 1784 hallintoneuvoston (Board of Regents) ja valtuutti sen perustamaan osavaltioon toisen asteen oppilaitoksia ja korkeakouluja. Vuonna 1856 viisijäseninen komitea nimitettiin tutkimaan mahdollisuutta perustaa maailmanluokan osavaltion yliopisto. Seuraavana vuonna se antoi myönteisen raportin, mutta New Yorkin osavaltionyliopisto perustettiin vasta vuonna 1948.Sisällissodan aikana New York tuki yleisesti ottaen unionin asiaa, mutta varauksin. Vuonna 1863 puhkesi mellakoita miesten kutsumisesta armeijaan. Neljän päivän aikana noin 1 000 ihmistä kuoli tai loukkaantui, ja omaisuusvahinkoja aiheutui yli miljoonan dollarin edestä.

New Yorkin osavaltiolla on ollut neljä perustuslakia. Ensimmäinen laadittiin White Plainsissa vuonna 1776 pidetyssä kansankokouksessa ja hyväksyttiin vuonna 1778. Se oli voimassa 45 vuotta, kunnes sitä seurasi toinen vuonna 1822. Vuonna 1826 omaisuutta koskevat äänioikeusvaatimukset poistettiin. Kolmas, vuonna 1846 hyväksytty perustuslaki oli vastareaktio keskitettyä valtaa vastaan. Neljäs ja nykyinen perustuslaki on vuodelta 1894.

Katso New York.