Los orígenes de Nucor están en el fabricante de automóviles Ransom E. Olds, que fundó la Olds Motor Vehicle Company en 1897 (la empresa se convirtió más tarde en Oldsmobile, parte de General Motors Corporation). En 1905, Olds dejó Oldsmobile y creó una nueva empresa, REO Motor Car Company, en Lansing, Michigan. Aunque los productos de REO (incluyendo el lujoso coche REO Flying Cloud y el camión REO Speed Wagon) eran populares, no eran rentables, y la compañía se declaró en bancarrota en 1938.

Tras la reorganización por bancarrota, REO cambió su enfoque de los coches a los camiones, pero siguió sufriendo pérdidas. En diciembre de 1954, REO vendió la totalidad de sus operaciones de fabricación a Bohn Aluminum and Brass Corporation.

La empresa inició los procedimientos de liquidación tras la venta de sus operaciones, pero un grupo de accionistas activistas disidentes, al advertir la existencia de una pérdida fiscal utilizable, impugnó con éxito la liquidación en una lucha de apoderados en septiembre de 1955 y obligó a REO a adquirir una pequeña empresa de servicios nucleares llamada Nuclear Consultants, Inc. en una adquisición inversa. La empresa pasó a llamarse «Nuclear Corporation of America Inc.» y se trasladó a las oficinas del Empire State Building de Nueva York. El intento de la organización de refundarse como empresa de servicios para la industria nuclear no tuvo éxito, y siguió el ejemplo de otras empresas en los años 50 y 60 al intentar convertirse en un conglomerado, trasladando su sede a Phoenix, Arizona. Realizó varias adquisiciones, entre ellas la de Vulcraft Corporation, un fabricante de viguetas de acero situado en Florence, Carolina del Sur. Vulcraft fue fundada por Sanborn Chase (sin relación con Chase & Sanborn Coffee), que murió a una edad temprana, dejando la empresa a su viuda. Nuclear compró Vulcraft a la viuda de Chase en 1962 y contrató a F. Kenneth Iverson como director general. En marzo de 1965, la empresa volvió a declararse en quiebra. El consejo de administración despidió al presidente de Nuclear (y tuvo que devolverle su avión de negocios), pero no pudo encontrar un sustituto. Finalmente, Samuel Siegel (sin relación con el mandolinista Samuel Siegel), contable de Nuclear y amigo de Iverson, que había estado pensando en dejar la empresa, informó al Consejo de que se quedaría con ellos bajo dos condiciones: Iverson se convertiría en presidente y él (Siegel) en director financiero. El Consejo aceptó.

Iverson y Siegel reorganizaron Nucor en torno a su único negocio rentable, el fabricante de acero Vulcraft. Todos los demás negocios fueron vendidos o liquidados. En 1966, la empresa trasladó su sede a Charlotte, Carolina del Norte, para estar más cerca de su planta principal de Vulcraft.

En 1968, incapaz de conseguir precios de acero favorables de los fabricantes estadounidenses y descontento con el acero importado disponible en ese momento, Iverson, metalúrgico de formación, decidió ampliar Nucor verticalmente en la fabricación de acero mediante la construcción de su primera fábrica de barras de acero en Darlington, Carolina del Sur. La empresa optó por comprar un horno de arco eléctrico, mucho más barato que el tradicional alto horno de acero, con un préstamo de 6 millones de dólares garantizado por todos los activos de la empresa. Los retrasos en la producción y los problemas de personal hicieron que las acciones de la empresa cayeran hasta los céntimos, pero los beneficios se dispararon en 1971 y 1972.

En 1972, la empresa, reconociendo que ahora se llamaba mal, adoptó su título actual, Nucor Corporation. Nucor vio la demanda de productos básicos de acero de bajo coste (por ejemplo, barras de refuerzo) y comenzó a producirlos. Empezaron a vender acero a otras empresas que antes importaban acero de calidad inferior.

Desde su reorganización, Nucor se convirtió en líder en tecnología de reciclaje y amplió su presencia en el mercado. En 1988, Nucor se convirtió en el primer reciclador de acero en fabricar vigas de ala ancha con una profundidad de 40″. Ese mismo año, la empresa abrió su división de productos para la construcción.

En 1989, Nucor inauguró una instalación en Crawfordsville (Indiana), la primera minifábrica del mundo que producía acero laminado plano con tecnología de chapa fina.

En marzo de 2000, se formó una empresa conjunta, propiedad en un 47,5% de Nucor, en un 47,5% de BlueScope y en un 5% de IHI Corporation, para licenciar la tecnología Castrip. Esta tecnología permitía la colada continua de chapas de acero directamente a partir del acero fundido sin necesidad de rodillos pesados, caros y que consumen energía. Como resultado, los molinos construidos con esta tecnología son significativamente más baratos y ocupan mucho menos espacio que otros molinos.

En septiembre de 2000, Dan DiMicco, anteriormente director general de la muy rentable empresa conjunta Nucor-Yamato Steel, fue nombrado consejero delegado.

En los años siguientes, la empresa realizó varias adquisiciones; en 2001, la empresa adquirió Auburn Steel, su primera adquisición en 36 años. En 2002, Nucor compró Birmingham Steel, incluyendo la planta de Mississippi Steel y las operaciones de Birmingham, Alabama. En 2004, Nucor adquirió Corus Tuscaloosa, y en 2005, compró Fort Howard Steel y Marion Steel. En 2006, Nucor adquirió Connecticut Steel, Verco Decking y Harris Steel. La adquisición de Harris Steel, por valor de 1.070 millones de dólares, amplió la producción de barras de refuerzo fabricadas por Nucor, que tenía un mercado fuerte debido al aumento del gasto en infraestructuras. En 2007, la división de Sistemas de Construcción de Nucor adquirió Magnatrax, lo que reforzó su cuota en el mercado de sistemas de construcción metálica prediseñados. En marzo de 2008, Nucor compró David J. Joseph Company, una de las mayores empresas de chatarra y reciclaje de Estados Unidos, con el fin de tener un mayor control del suministro de materias primas y de los precios. En 2012, Nucor compró Skyline Steel.

John J. Ferriola fue nombrado director general de Nucor, y Daniel R. DiMicco fue nombrado presidente ejecutivo, a partir del 1 de enero de 2013. DiMicco se retiró el 1 de enero de 2014.

En 2014, la empresa adquirió Gallatin Steel Company. En 2015, la empresa adquirió instalaciones adicionales de barras de acabado en frío en Ohio y Georgia. En 2016, Nucor anunció la adquisición de una fábrica de chapas de acero en Longview, Texas, y de fábricas de tubos estructurales en Mississippi, Alabama e Illinois. La adquisición de estas instalaciones amplió las capacidades de Nucor en el mercado de la chapa y añadió el tubo estructural a la combinación de productos de la empresa.

En abril de 2017, la empresa anunció una mejora de 85 millones de dólares en el tren de laminación de su operación de barras de refuerzo y señalización en Marion, Ohio.

En agosto de 2017, la empresa adquirió St. Louis Cold Drawn, Inc.

El 6 de septiembre de 2019, Nucor anunció que John Ferriola (consejero delegado) se retiraría a finales de año y sería sustituido por Leon J. Topalian.

En diciembre de 2019, la compañía anunció la adquisición de TrueCore Insulated Panels.

En marzo de 2020, la empresa conjunta de la compañía con JFE Steel en México comenzó la producción.

En agosto de 2017, la compañía adquirió St.