Nucorin juuret ovat autonvalmistaja Ransom E. Oldsissa, joka perusti Olds Motor Vehicle Companyn vuonna 1897 (yhtiöstä tuli myöhemmin Oldsmobile, osa General Motors Corporationia). Vuonna 1905 Olds jätti Oldsmobilen ja perusti uuden yrityksen, REO Motor Car Companyn, Lansingiin, Michiganiin. Vaikka REO:n tuotteet (muun muassa ylellinen REO Flying Cloud -auto ja REO Speed Wagon -kuorma-auto) olivat suosittuja, ne eivät olleet kannattavia, ja yhtiö hakeutui konkurssiin vuonna 1938.

Konkurssiuudistuksen jälkeen REO siirtyi henkilöautoista kuorma-autoihin, mutta kärsi edelleen tappioita. Joulukuussa 1954 REO myi koko tuotantotoimintansa Bohn Aluminum and Brass Corporationille.

Yhtiö aloitti toimintojensa myynnin jälkeen selvitystilamenettelyn, mutta joukko toisinajattelevia aktivisti-osakkeenomistajia, jotka huomasivat käyttökelpoisen verotuksellisen tappion olemassaolon, riitauttivat menestyksekkäästi selvitystilaan asettamisen valtakirjakamppailussa syyskuussa 1955 ja pakottivat REO:n ottamaan haltuunsa käänteisessä yritysostossa pienen ydinpalveluyrityksen nimeltä Nuclear Consultants, Inc. Yritys nimettiin uudelleen Nuclear Corporation of America Inc:ksi ja se muutti toimistoonsa New Yorkin Empire State Buildingiin. Organisaation yritys uudistaa itsensä ydinteollisuuden palveluyritykseksi ei onnistunut, ja se seurasi muiden yritysten esimerkkiä 1950- ja 60-luvuilla yrittämällä muuttua monialayritykseksi ja siirtämällä pääkonttorinsa Phoenixiin, Arizonaan. Se teki useita yritysostoja, muun muassa Vulcraft Corporationin, joka valmisti teräspalkkeja Firenzessä, Etelä-Carolinassa. Vulcraftin perusti Sanborn Chase (ei sukua Chase & Sanborn Coffee), joka kuoli varhain ja jätti yrityksen leskelleen. Nuclear osti Vulcraftin Chasen leskeltä vuonna 1962 ja palkkasi F. Kenneth Iversonin toimitusjohtajaksi. Maaliskuussa 1965 yritys hakeutui jälleen konkurssiin. Hallitus erotti Nuclearin toimitusjohtajan (ja joutui palauttamaan hänelle liikelentokoneen), mutta ei löytänyt korvaajaa. Lopulta Samuel Siegel (ei sukua mandoliinimuusikko Samuel Siegelille), Nuclearin kirjanpitäjä ja Iversonin ystävä, joka oli aikonut lähteä yhtiöstä, ilmoitti johtokunnalle, että hän jäisi yhtiöön kahdella ehdolla: Iversonista tulisi toimitusjohtaja ja hänestä (Siegelistä) talousjohtaja. Hallitus hyväksyi ehdotuksen.

Iverson ja Siegel organisoivat Nucorin uudelleen sen ainoan kannattavan liiketoiminnan, teräsvalmistaja Vulcraftin, ympärille. Kaikki muut liiketoiminnot joko myytiin tai lakkautettiin. Vuonna 1966 yhtiö siirsi pääkonttorinsa Charlotteen, Pohjois-Carolinaan, jotta se olisi lähempänä Vulcraftin päätehdasta.

Vuonna 1968 Iverson, joka oli koulutukseltaan metallurgi, ei pystynyt saamaan edullisia teräksen hintoja amerikkalaisilta valmistajilta ja oli tyytymätön tuolloin saatavilla olleeseen maahantuotuun teräkseen, ja hän päätti laajentaa Nucoria vertikaalisesti teräksenvalmistukseen rakentamalla ensimmäisen terästankotehtaansa Etelä-Carolinan Darlingtoniin. Yhtiö päätti hankkia valokaariuunin, joka oli paljon halvempi kuin perinteinen teräksinen masuuni, 6 miljoonan dollarin lainalla, jonka vakuutena oli yhtiön koko omaisuus. Tuotannon viivästymiset ja henkilöstöongelmat saivat yhtiön osakkeen putoamaan penniäkään, mutta tulos nousi huimasti vuosina 1971 ja 1972.

Vuonna 1972 yhtiö tunnusti, että sen nimi oli nyt väärä, ja otti käyttöön nykyisen nimensä, Nucor Corporation. Nucor huomasi halpojen perushyödyketerästuotteiden (esim. raudoitustankojen) kysynnän ja alkoi tuottaa niitä. Se alkoi myydä terästä muille yrityksille, jotka olivat aiemmin tuoneet maahan huonolaatuista terästä.

Uudelleenjärjestelynsä jälkeen Nucorista on tullut johtava kierrätysteknologian toimittaja ja se on laajentanut markkinaosuuttaan. Vuonna 1988 Nucorista tuli ensimmäinen teräksen kierrättäjä, joka valmisti 40 tuuman syvyisiä leveälaippapalkkeja. Yhtiö avasi samana vuonna rakennustuotedivisioonansa.

Vuonna 1989 Nucor avasi Indianan Crawfordsvilleen laitoksen, joka oli maailman ensimmäinen minitehdas, joka valmisti ohutlevytekniikalla litteäksi valssattua terästä.

Maaliskuussa 2000 perustettiin yhteisyritys, jonka omistivat Nucor 47,5-prosenttisesti, BlueScope 47,5-prosenttisesti ja IHI Corporation 5-prosenttisesti ja jonka tehtävänä oli lisensioida Castripin tekniikka. Tämä teknologia mahdollisti teräslevyjen jatkuvan valun suoraan sulasta teräksestä ilman raskaita, kalliita ja energiaa kuluttavia teloja. Tämän seurauksena tällä tekniikalla rakennetut tehtaat ovat huomattavasti halvempia ja vievät huomattavasti vähemmän tilaa kuin muut tehtaat.

Syyskuussa 2000 toimitusjohtajaksi nimitettiin Dan DiMicco, joka oli aiemmin toiminut yhtiön erittäin kannattavan Nucor-Yamato Steel -yhteisyrityksen toimitusjohtajana.

Seuraavina vuosina yhtiö teki useita yritysostoja; vuonna 2001 yhtiö osti Auburn Steelin, joka oli sen ensimmäinen yritysosto 36 vuoteen. Vuonna 2002 Nucor osti Birmingham Steelin, mukaan lukien Mississippi Steelin tehtaan ja Birminghamissa, Alabamassa sijaitsevat toiminnot. Vuonna 2004 Nucor osti Corus Tuscaloosan, ja vuonna 2005 se osti Fort Howard Steelin ja Marion Steelin. Vuonna 2006 Nucor osti Connecticut Steelin, Verco Deckingin ja Harris Steelin. Harris Steelin 1,07 miljardin dollarin arvoinen hankinta laajensi Nucorin tuotantoa valmistetun betoniteräksen tuotantoon, jolla oli vahvat markkinat lisääntyneiden infrastruktuurimenojen vuoksi. Vuonna 2007 yhtiön Nucor Building Systems -divisioona osti Magnatraxin, mikä kasvatti sen osuutta valmiiksi suunniteltujen metallirakennusjärjestelmien markkinoilla. Maaliskuussa 2008 Nucor osti David J. Joseph Companyn, joka on yksi Yhdysvaltojen suurimmista romunvälitys- ja kierrätysyrityksistä, saadakseen enemmän määräysvaltaa raaka-aineidensa tarjonnassa ja hinnoissa. Vuonna 2012 Nucor osti Skyline Steelin.

John J. Ferriola nimitettiin Nucorin toimitusjohtajaksi ja Daniel R. DiMicco toimitusjohtajaksi 1.1.2013 alkaen. DiMicco jäi eläkkeelle 1. tammikuuta 2014.

Vuonna 2014 yhtiö osti Gallatin Steel Companyn. Vuonna 2015 yhtiö hankki lisää kylmäkäsiteltyjä tankoja Ohiossa ja Georgiassa. Vuonna 2016 Nucor ilmoitti ostavansa teräslevytehtaan Longview’ssa, Texasissa, sekä rakenneputkitehtaita Mississippissä, Alabamassa ja Illinoisissa. Näiden laitosten hankinta laajensi Nucorin valmiuksia levymarkkinoilla ja lisäsi rakenneputkia yhtiön tuotevalikoimaan.

Huhtikuussa 2017 yhtiö ilmoitti 85 miljoonan dollarin suuruisesta valssaamon päivityksestä Marionissa, Ohiossa sijaitsevassa betoniteräs- ja opastetankotehtaassa.

Elokuussa 2017 yhtiö osti St. Louis Cold Drawn, Inc.

6. syyskuuta 2019 Nucor ilmoitti, että John Ferriola (toimitusjohtaja) jää eläkkeelle vuoden lopussa ja että hänen tilalleen tulee Leon J. Topalian.

Joulukuussa 2019 yhtiö ilmoitti TrueCore Insulated Panelsin ostosta.

Maaliskuussa 2020 yhtiön yhteisyritys JFE Steelin kanssa Meksikossa aloitti tuotannon.

Maaliskuussa 2020 yhtiön yhteisyritys JFE Steelin kanssa Meksikossa aloitti tuotannon.