Nucor har sin oprindelse hos bilproducenten Ransom E. Olds, som grundlagde Olds Motor Vehicle Company i 1897 (virksomheden blev senere til Oldsmobile, der er en del af General Motors Corporation). I 1905 forlod Olds Oldsmobile og etablerede en ny virksomhed, REO Motor Car Company, i Lansing, Michigan. Selv om REO’s produkter (herunder den luksuriøse REO Flying Cloud-bil og REO Speed Wagon-lastbilen) var populære, var de ikke rentable, og virksomheden indgav konkursbegæring i 1938.

Efter rekonstruktionen efter konkursen ændrede REO sit fokus fra biler til lastbiler, men fortsatte med at lide tab. I december 1954 solgte REO hele sin produktion til Bohn Aluminum and Brass Corporation.

Selskabet indledte en likvidationsprocedure efter salget af sine aktiviteter, men en gruppe af dissidente aktivistiske aktionærer, der bemærkede eksistensen af et anvendeligt skattemæssigt tab, anfægtede med succes likvidationen i en proxy fight i september 1955 og tvang REO til at overtage et lille nukleart servicefirma ved navn Nuclear Consultants, Inc. i en omvendt overtagelse. Selskabet blev omdøbt til “Nuclear Corporation of America Inc.” og flyttede til kontorer i Empire State Building i New York City. Organisationens forsøg på at omskabe sig selv til en servicevirksomhed inden for den nukleare industri mislykkedes, og den fulgte andre virksomheders eksempel i 1950’erne og 60’erne ved at forsøge at blive et konglomerat og flytte sit hovedkvarter til Phoenix i Arizona. Det foretog flere opkøb, bl.a. Vulcraft Corporation, en producent af stålbjælker i Florence, South Carolina. Vulcraft blev grundlagt af Sanborn Chase (ingen relation til Chase & Sanborn Coffee), som døde i en tidlig alder og overlod virksomheden til sin enke. Nuclear købte Vulcraft af Chase’s enke i 1962 og ansatte F. Kenneth Iverson som administrerende direktør. I marts 1965 indgav virksomheden igen en konkursbegæring. Bestyrelsen fyrede Nuclear’s direktør (og måtte returnere hans forretningsfly til ham), men kunne ikke finde en afløser. Til sidst meddelte Samuel Siegel (ingen relation til mandolinisten Samuel Siegel), der var revisor hos Nuclear og ven af Iverson, og som havde ønsket at forlade selskabet, bestyrelsen, at han ville blive i selskabet på to betingelser: Iverson ville blive præsident, og han (Siegel) ville blive finansdirektør. Bestyrelsen accepterede det.

Iverson og Siegel omorganiserede Nucor omkring dets eneste rentable virksomhed, stålproducenten Vulcraft. Alle andre virksomheder blev enten solgt eller afviklet. I 1966 flyttede virksomheden sit hovedkvarter til Charlotte, North Carolina, for at være tættere på hovedfabrikken Vulcraft.

I 1968 besluttede Iverson, der var uddannet metallurg, da han ikke kunne få gunstige stålpriser fra amerikanske producenter og ikke var tilfreds med det importerede stål, der var tilgængeligt på det tidspunkt, at udvide Nucor vertikalt til stålfremstilling ved at bygge sin første stålstangfabrik i Darlington, South Carolina. Virksomheden valgte at købe en elektrisk lysbueovn, som var langt billigere end den traditionelle stålhøjovn, med et lån på 6 millioner dollars sikret af alle virksomhedens aktiver. Forsinkelser i produktionen og personaleproblemer fik selskabets aktier til at falde til pennyer, men indtjeningen steg kraftigt i 1971 og 1972.

I 1972 vedtog selskabet, som erkendte, at det nu havde fået et forkert navn, sin nuværende titel, Nucor Corporation. Nucor så efterspørgslen efter billige stålprodukter til råvarer (f.eks. armeringsstål) og begyndte at producere dem. De begyndte at sælge stål til andre virksomheder, som tidligere havde importeret stål af ringere kvalitet.

Siden sin reorganisering er Nucor blevet førende inden for genbrugsteknologi og har udvidet sin markedstilstedeværelse. I 1988 blev Nucor den første stålgenvindingsvirksomhed til at fremstille bredflangebjælker med en dybde på 40″. Virksomheden åbnede samme år sin division for byggeprodukter.

I 1989 åbnede Nucor et anlæg i Crawfordsville, Indiana, det første miniværk i verden til at producere fladvalset stål ved hjælp af tyndpladeteknologi.

I marts 2000 blev der dannet et joint venture, der ejes 47,5 % af Nucor, 47,5 % af BlueScope og 5 % af IHI Corporation, med henblik på at give licens til Castrip-teknologien. Denne teknologi gjorde det muligt at foretage kontinuerlig støbning af stålplader direkte fra smeltet stål uden brug af tunge, dyre og energiforbrugende valser. Som følge heraf er værker bygget med denne teknologi betydeligt billigere og fylder betydeligt mindre end andre værker.

I september 2000 blev Dan DiMicco, tidligere administrerende direktør for selskabets meget rentable joint venture Nucor-Yamato Steel, udnævnt til administrerende direktør.

I de følgende år foretog selskabet flere opkøb; i 2001 købte selskabet Auburn Steel, sit første opkøb i 36 år. I 2002 købte Nucor Birmingham Steel, herunder fabrikken i Mississippi Steel og aktiviteterne i Birmingham, Alabama. I 2004 købte Nucor Corus Tuscaloosa, og i 2005 købte selskabet Fort Howard Steel og Marion Steel. I 2006 købte Nucor Connecticut Steel, Verco Decking og Harris Steel. Med købet af Harris Steel for 1,07 mia. USD udvidede Nucor sin produktion af bearbejdede armeringsstænger, som havde et stærkt marked på grund af de øgede udgifter til infrastruktur. I 2007 overtog virksomhedens Nucor Building Systems-division Magnatrax, hvilket styrkede virksomhedens andel af markedet for færdigbyggede metalbyggesystemer. I marts 2008 købte Nucor David J. Joseph Company, en af de største skrotmæglere og genbrugsvirksomheder i USA, for at få større kontrol over sine råvareforsyninger og priser. I 2012 købte Nucor Skyline Steel.

John J. Ferriola blev udnævnt til administrerende direktør for Nucor, og Daniel R. DiMicco blev udnævnt til bestyrelsesformand med virkning fra den 1. januar 2013. DiMicco gik på pension den 1. januar 2014.

I 2014 købte virksomheden Gallatin Steel Company. I 2015 erhvervede selskabet yderligere koldtbehandlingsstanganlæg i Ohio og Georgia. I 2016 meddelte Nucor, at selskabet købte et stålpladeværk i Longview, Texas, og strukturelle rørværker i Mississippi, Alabama og Illinois. Købet af disse anlæg udvidede Nucors muligheder på plademarkedet og tilføjede strukturrør til virksomhedens produktsortiment.

I april 2017 annoncerede virksomheden en opgradering af valseværket på 85 mio. dollar på dens Marion, Ohio armeringsstål- og skiltevirksomhed.

I august 2017 købte virksomheden St. Louis Cold Drawn, Inc.

Den 6. september 2019 meddelte Nucor, at John Ferriola (CEO) ville gå på pension ved årets udgang og blive erstattet af Leon J. Topalian.

I december 2019 meddelte virksomheden, at den havde overtaget TrueCore Insulated Panels.

I marts 2020 begyndte virksomhedens joint venture med JFE Steel i Mexico at producere.