Före européernas ankomst var New York hemvist för två mäktiga indianstammar, algonquierna och irokeserna. Utforskningarna genomfördes av män från flera länder. Giovanni da Verrazano, en italienare som arbetade för Frankrike, och Henry Hudson, en engelsman som arbetade för holländarna, besökte kusten. Hudson seglade uppför den flod som skulle komma att kallas Hudson, vilket gav holländarna anspråk på ett betydande territorium. Samuel de Champlain utforskade norrifrån, vilket gav Frankrike ett eget anspråk på territorium.

Holländarna etablerade de första vita bosättningarna, med början i Fort Orange (nuvarande Albany). År 1625 grundade nederländska bosättare New Amsterdam på Manhattan Island. Året därpå köpte deras guvernör, Peter Minuit, hela ön från indianerna för cirka 24 dollar. Holländarna lade till nya bosättningar längs Hudson, medan nya bosättare anlände från Massachusetts och Connecticut och etablerade samhällen på Long Island.

Kung Karl II av England bestämde sig för att tvinga ut holländarna och skickade en flotta med fartyg till New Amsterdam. Minuit överlämnade staden utan strid. Enligt Bredafördraget från 1667 fick engelsmännen hela Nya Nederländerna, som de döpte om till New York. Under tiden pressade fransmännen på från norr. Mellan 1689 och 1763 utkämpades ett antal krig som tillsammans kallas Franska och indianska kriget. Parisfördraget 1763 avslutade konflikten permanent genom att Frankrike tvingades ge upp nästan hela sitt territorium i Nordamerika.

New York City var ockuperat av britterna under en stor del av frihetskriget, och staden hade många lojalister. Omkring 30 000 personer lämnade delstaten efter krigsslutet. New York var den nationella huvudstaden från 1785 till 1790, och George Washington invigdes som den första presidenten i Federal Hall i New York 1789.

New York växte snabbt och ersatte 1820 Virginia som den folkrikaste staten i landet. Den behöll den positionen tills Kalifornien gick om den 1970. Erie-kanalen gav ökat välstånd till norra New York och gav New York City en fördel gentemot alla andra östliga kusthamnar.

New York inrättade 1784 en styrelse för regenterna och gav den i uppdrag att inrätta gymnasieskolor och högskolor i delstaten. År 1856 utsågs en kommitté bestående av de fem för att undersöka möjligheten att skapa ett statligt universitet i världsklass. Året därpå rapporterade den jakande, men State University of New York skapades inte förrän 1948.Under inbördeskriget stödde New York i allmänhet unionens sak, men med reservationer. År 1863 utbröt upplopp på grund av inkallandet av män till armén. Under en period av fyra dagar dödades eller skadades omkring 1 000 personer och mer än 1 miljon dollar i egendomsskador uppstod.

New York State har haft fyra konstitutioner. Den första utarbetades vid ett folkkonvent i White Plains 1776 och antogs 1778. Den förblev i kraft i 45 år tills den efterföljdes av en andra 1822. År 1826 avskaffades förmögenhetsvillkor för att få rösta. Den tredje konstitutionen, som antogs 1846, markerade en reaktion mot centraliserad makt. Den fjärde och nuvarande konstitutionen är från 1894.

Se New York.