Nucor tem origem no fabricante de automóveis Ransom E. Olds, que fundou a Olds Motor Vehicle Company em 1897 (a empresa mais tarde tornou-se Oldsmobile, parte da General Motors Corporation). Em 1905, Olds deixou Oldsmobile e estabeleceu uma nova empresa, a REO Motor Car Company, em Lansing, Michigan. Embora os produtos da REO (incluindo o luxuoso carro REO Flying Cloud e o caminhão REO Speed Wagon) fossem populares, eles não eram lucrativos, e a empresa entrou com pedido de falência em 1938.

Após a reorganização da falência, a REO mudou seu foco de carros para caminhões, mas continuou a sofrer prejuízos. Em dezembro de 1954, a REO vendeu todas as suas operações de fabricação à Bohn Aluminum and Brass Corporation.

A empresa iniciou o processo de liquidação após a venda de suas operações, mas um grupo de acionistas ativistas dissidentes, notando a existência de um prejuízo fiscal utilizável, desafiou com sucesso a liquidação em uma luta de procuração em setembro de 1955 e forçou a REO a adquirir uma minúscula empresa de serviços nucleares chamada Nuclear Consultants, Inc. em uma aquisição inversa. A empresa foi renomeada “Nuclear Corporation of America Inc.” e transferida para escritórios no Empire State Building, em Nova York. A tentativa da organização de se reformular como uma empresa de serviços da indústria nuclear não teve sucesso, e seguiu o exemplo de outras empresas nos anos 50 e 60, tentando se tornar um conglomerado, mudando sua sede para Phoenix, Arizona. Fez várias aquisições, incluindo a Vulcraft Corporation, um fabricante de vigas de aço localizado em Florença, na Carolina do Sul. A Vulcraft foi fundada por Sanborn Chase (sem relação com Chase & Sanborn Coffee), que morreu muito cedo, deixando a empresa para sua viúva. A Nuclear comprou a Vulcraft da viúva de Chase em 1962 e contratou F. Kenneth Iverson como gerente geral. Em março de 1965, a empresa pediu novamente a falência. A diretoria demitiu o presidente da Nuclear (e teve que devolver seu jato comercial a ele), mas não conseguiu encontrar um substituto. Eventualmente Samuel Siegel (sem relação com o bandolinista Samuel Siegel), contador da Nuclear e amigo da Iverson, que procurava deixar a empresa, informou à Diretoria que permaneceria com eles sob duas condições: Iverson se tornaria presidente e ele (Siegel) se tornaria CFO. A Diretoria aceitou.

Iverson e Siegel reorganizaram a Nucor em torno de seu único negócio lucrativo, o fabricante de aço Vulcraft. Todos os outros negócios foram vendidos ou liquidados. Em 1966, a empresa mudou sua sede para Charlotte, Carolina do Norte para ficar mais perto de sua principal fábrica de Vulcraft.

Em 1968, incapaz de obter preços favoráveis do aço de fabricantes americanos e descontente com o aço importado disponível na época, a Iverson, metalúrgica em treinamento, decidiu estender a Nucor verticalmente para a fabricação de aço, construindo sua primeira usina de barras de aço em Darlington, Carolina do Sul. A empresa optou por comprar um forno elétrico a arco, que era muito mais barato que o tradicional alto-forno de aço, com um empréstimo de US$ 6 milhões garantido por todos os ativos da empresa. Atrasos na produção e problemas de pessoal fizeram com que as ações da empresa caíssem para centavos, mas os ganhos aumentaram em 1971 e 1972.

Em 1972, a empresa, reconhecendo que agora era mal denominada, adotou seu título atual, Nucor Corporation. A Nucor viu a demanda por produtos de aço commodity de baixo custo (por exemplo, vergalhões) e começou a produzí-los. Eles começaram a vender aço para outras empresas que anteriormente importavam aço de qualidade inferior.

Desde a sua reorganização, a Nucor tornou-se líder em tecnologia de reciclagem e expandiu sua presença no mercado. Em 1988, a Nucor tornou-se a primeira recicladora de aço a fabricar largas vigas de flange com uma profundidade de 40″. Nesse mesmo ano, a empresa abriu sua divisão de produtos de construção.

Em 1989, a Nucor abriu uma fábrica em Crawfordsville, Indiana, a primeira mini-mill no mundo a produzir aço laminado plano usando tecnologia de laboratório fino.

Em março de 2000, uma joint venture, de propriedade da Nucor, 47,5%, da BlueScope, e 5%, da IHI Corporation, foi formada para licenciar a tecnologia Castrip. Esta tecnologia permitiu o lingotamento contínuo de chapas de aço diretamente do aço fundido sem a necessidade de rolos pesados, caros e consumidores de energia. Como resultado, as usinas construídas com esta tecnologia são significativamente mais baratas e ocupam muito menos espaço do que outras usinas.

Em setembro de 2000, Dan DiMicco, antigo gerente geral da joint venture altamente lucrativa Nucor-Yamato Steel, foi nomeado CEO.

Nos anos seguintes, a empresa fez várias aquisições; em 2001, a empresa adquiriu a Auburn Steel, sua primeira aquisição em 36 anos. Em 2002, a Nucor comprou a Birmingham Steel, incluindo a fábrica do Mississippi Steel e as operações de Birmingham, Alabama. Em 2004, a Nucor adquiriu a Corus Tuscaloosa, e em 2005, a Fort Howard Steel e a Marion Steel. Em 2006, a Nucor adquiriu a Connecticut Steel, a Verco Decking e a Harris Steel. A aquisição de $1,07 bilhões da Harris Steel expandiu a Nucor para a produção de vergalhões cortados e dobrados, que tinha um mercado forte devido ao aumento dos gastos com infra-estrutura. Em 2007, a divisão Nucor Building Systems da empresa adquiriu a Magnatrax, que reforçou sua participação no mercado de sistemas construtivos metálicos pré-elaborados. Em março de 2008, a Nucor adquiriu a David J. Joseph Company, uma das maiores empresas de sucata e reciclagem dos Estados Unidos, a fim de assumir mais controle do fornecimento e dos preços de sua matéria-prima. Em 2012, a Nucor adquiriu a Skyline Steel.

John J. Ferriola foi nomeado Diretor Executivo da Nucor, e Daniel R. DiMicco foi nomeado Presidente Executivo, a partir de 1º de janeiro de 2013. DiMicco se aposentou em 1º de janeiro de 2014.

Em 2014, a empresa comprou a Gallatin Steel Company. Em 2015, a empresa adquiriu instalações adicionais de barras de acabamento a frio em Ohio e Geórgia. Em 2016, a Nucor anunciou a aquisição de uma usina de chapas de aço em Longview, Texas, e usinas de tubos estruturais em Mississippi, Alabama e Illinois. A aquisição dessas instalações ampliou as capacidades da Nucor no mercado de chapas e acrescentou tubo estrutural ao mix de produtos da empresa.

Em abril de 2017, a empresa anunciou uma atualização de $85 milhões do laminador em sua operação de vergalhões e sinalizações em Marion, Ohio.

Em agosto de 2017, a empresa adquiriu a St. Louis Cold Drawn, Inc.

Em 6 de setembro de 2019, a Nucor anunciou que John Ferriola (CEO) se aposentaria no final do ano e seria substituído por Leon J. Topalian.

Em dezembro de 2019, a empresa anunciou a aquisição da TrueCore Insulated Panels.

Em março de 2020, a joint venture da empresa com a JFE Steel no México iniciou a produção.