Nucor har sitt ursprung i biltillverkaren Ransom E. Olds, som grundade Olds Motor Vehicle Company 1897 (företaget blev senare Oldsmobile, en del av General Motors Corporation). År 1905 lämnade Olds Oldsmobile och grundade ett nytt företag, REO Motor Car Company, i Lansing, Michigan. Även om REO:s produkter (bland annat den lyxiga bilen REO Flying Cloud och lastbilen REO Speed Wagon) var populära, var de inte lönsamma och företaget ansökte om konkurs 1938.

Efter konkursrekonstruktionen ändrade REO sitt fokus från bilar till lastbilar, men fortsatte att gå med förlust. I december 1954 sålde REO hela sin tillverkningsverksamhet till Bohn Aluminum and Brass Corporation.

Företaget inledde ett likvidationsförfarande efter försäljningen av verksamheten, men en grupp oliktänkande aktivistiska aktieägare, som märkte att det fanns en användbar skatteförlust, ifrågasatte framgångsrikt likvidationen i en fullmaktsstrid i september 1955 och tvingade REO att ta över ett litet kärnkraftsföretag, Nuclear Consultants, Inc., i ett omvänt övertagande. Företaget bytte namn till ”Nuclear Corporation of America Inc.” och flyttade till kontor i Empire State Building i New York. Organisationens försök att omforma sig till ett tjänsteföretag inom kärnkraftsindustrin misslyckades, och företaget följde exemplet från andra företag på 1950- och 60-talen genom att försöka bli ett konglomerat och flyttade sitt huvudkontor till Phoenix, Arizona. Företaget gjorde flera förvärv, bland annat Vulcraft Corporation, en tillverkare av stålbjälklag i Florence, South Carolina. Vulcraft grundades av Sanborn Chase (ingen relation till Chase & Sanborn Coffee), som dog i tidig ålder och lämnade företaget till sin änka. Nuclear köpte Vulcraft av Chases änka 1962 och anställde F. Kenneth Iverson som verkställande direktör. I mars 1965 ansökte företaget återigen om konkurs. Styrelsen sparkade Nuclears vd (och var tvungen att återlämna hans affärsjet till honom), men kunde inte hitta någon ersättare. Till slut informerade Samuel Siegel (ingen relation till mandolinisten Samuel Siegel), en revisor på Nuclear och vän till Iverson, som hade tänkt lämna företaget, styrelsen att han skulle stanna kvar i företaget på två villkor: Iverson skulle bli VD och han (Siegel) skulle bli ekonomichef. Styrelsen accepterade.

Iverson och Siegel omorganiserade Nucor kring dess enda lönsamma verksamhet, ståltillverkningsföretaget Vulcraft. Alla andra verksamheter såldes eller avvecklades. År 1966 flyttade företaget sitt huvudkontor till Charlotte, North Carolina, för att komma närmare sin huvudfabrik Vulcraft.

Iverson, som var oförmögen att få gynnsamma stålpriser från amerikanska tillverkare och missnöjd med det importerade stål som fanns tillgängligt vid den tiden, beslöt 1968, då han inte kunde få gynnsamma stålpriser från amerikanska tillverkare och var missnöjd med det importerade stålet som fanns tillgängligt vid den tiden, och som var utbildad metallurg, att utvidga Nucor vertikalt till att även omfatta ståltillverkning genom att bygga sitt första stålstångsverk i Darlington, South Carolina. Företaget valde att köpa en elektrisk ljusbågsugn, som var mycket billigare än den traditionella masugnen i stål, med ett lån på 6 miljoner dollar som garanterades av alla företagets tillgångar. Produktionsförseningar och personalproblem fick företagets aktier att sjunka till några öre, men vinsten steg kraftigt 1971 och 1972.

1972 antog företaget, som insåg att det nu hade fått ett felaktigt namn, sin nuvarande titel Nucor Corporation. Nucor såg efterfrågan på billiga stålprodukter (t.ex. armeringsjärn) och började tillverka dem. De började sälja stål till andra företag som tidigare hade importerat stål av sämre kvalitet.

Sedan omorganisationen har Nucor blivit ledande inom återvinningsteknik och utökat sin marknadsnärvaro. År 1988 blev Nucor det första stålåtervinningsföretaget som tillverkade breda flänsbalkar med ett djup på 40 tum. Företaget öppnade samma år sin division för byggprodukter.

År 1989 öppnade Nucor en anläggning i Crawfordsville, Indiana, det första minivalverket i världen som tillverkade plattvalsat stål med hjälp av tunnplåtteknik.

I mars 2000 bildades ett samriskföretag, som ägs till 47,5 % av Nucor, 47,5 % av BlueScope och 5 % av IHI Corporation, för att licensiera Castrip-tekniken. Denna teknik möjliggjorde kontinuerlig gjutning av stålplåt direkt från smält stål utan behov av tunga, dyra och energikrävande valsar. Som ett resultat av detta är valsverk byggda med denna teknik betydligt billigare och tar betydligt mindre plats än andra valsverk.

I september 2000 utsågs Dan DiMicco, tidigare generaldirektör för företagets mycket lönsamma samriskföretag Nucor-Yamato Steel, till vd.

Under åren som följde gjorde företaget flera förvärv. 2001 förvärvade företaget Auburn Steel, sitt första förvärv på 36 år. År 2002 köpte Nucor Birmingham Steel, inklusive Mississippi Steel-fabriken och verksamheten i Birmingham, Alabama. År 2004 förvärvade Nucor Corus Tuscaloosa och 2005 köpte företaget Fort Howard Steel och Marion Steel. År 2006 förvärvade Nucor Connecticut Steel, Verco Decking och Harris Steel. Genom förvärvet av Harris Steel för 1,07 miljarder dollar utökade Nucor sin verksamhet till produktion av tillverkade armeringsjärn, som hade en stark marknad på grund av ökade utgifter för infrastruktur. År 2007 förvärvade företagets Nucor Building Systems-division Magnatrax, vilket stärkte företagets andel av marknaden för förtillverkade metallbyggnadssystem. I mars 2008 köpte Nucor David J. Joseph Company, ett av de största skrotmäklarna och återvinningsföretagen i USA, för att få större kontroll över sin råvaruförsörjning och sina priser. År 2012 köpte Nucor Skyline Steel.

John J. Ferriola utsågs till verkställande direktör för Nucor och Daniel R. DiMicco utsågs till verkställande ordförande, med verkan från och med den 1 januari 2013. DiMicco gick i pension den 1 januari 2014.

Under 2014 köpte företaget Gallatin Steel Company. Under 2015 förvärvade företaget ytterligare anläggningar för kallt färdigställda stänger i Ohio och Georgia. År 2016 meddelade Nucor att det förvärvade ett stålplåtsverk i Longview, Texas, och strukturella rörverk i Mississippi, Alabama och Illinois. Förvärvet av dessa anläggningar utökade Nucors kapacitet på plåtmarknaden och lade till strukturella rör till företagets produktmix.

I april 2017 tillkännagav företaget en uppgradering på 85 miljoner dollar av valsverket vid dess verksamhet för armeringsjärn och skyltar i Marion, Ohio.

I augusti 2017 förvärvade företaget St. Louis Cold Drawn, Inc.

Den 6 september 2019 meddelade Nucor att John Ferriola (vd) skulle gå i pension vid årsskiftet och ersättas av Leon J. Topalian.

I december 2019 meddelade företaget att det förvärvat TrueCore Insulated Panels.

I mars 2020 inledde företagets samriskföretag med JFE Steel i Mexiko produktionen.