KTM fu fondata nel 1934 da Hans Trunkenpolz e inizialmente era conosciuta come Kraftfahrzeuge Trunkenpolz. Poiché l’azienda era in realtà un’officina metallurgica e le vendite erano piuttosto basse, i proprietari decisero di iniziare a produrre motociclette. Due anni dopo, nel 1953, un uomo d’affari austriaco di nome Ernst Kronreif comprò una grossa quota dell’azienda che fu rinominata in Kronreif & Trunkenpolz Mattighofen (KTM).
Nel primo anno di esistenza, avevano solo 20 dipendenti e producevano circa tre moto al giorno, compresa la R100 da 98cc, un progetto iniziato nel 1951. KTM partecipò per la prima volta agli eventi motoristici nel 1953 al 5° concorso di Gaisberg in cui vinse i primi tre posti.
Un anno dopo, KTM festeggiò la consegna della sua millesima moto e, nello stesso anno, vinse il campionato nazionale austriaco 125. Due anni dopo, nel 1956, KTM partecipò per la prima volta alla Sei Giorni Internazionale e Egon Dornauer vinse l’oro.
Nel 1959, l’ingegnere KTM Ludwig Apfelbeck sviluppò una nuova moto da corsa che Erwin Lechner utilizzò per vincere diverse competizioni offroad. Anche se le cose stavano andando abbastanza bene per l’azienda, KTM inizia a produrre biciclette nel 1964.
Due anni dopo, KTM inizia la produzione della Penton Six Days, una moto da cross country destinata all’esportazione negli Stati Uniti. Lo stesso anno segna la vittoria del campionato nazionale austriaco da parte di Manfred Klerr utilizzando la nuova moto da cross 250cc.
Più importante, nel 1973, KTM inizia la produzione in serie della 250 da cross e da enduro mentre lo stesso anno, la squadra austriaca registra i primi punti nel campionato del mondo e le prime vittorie nei Gran Premi. Fino al 1974, KTM aveva una gamma di ben 42 modelli, ma anche così, l’azienda inizia la produzione della KTM Hobby III nello stesso anno.
KTM ha iniziato gli anni ’80 con un colpo importante poiché ha introdotto le prime moto da cross 125cc raffreddate ad acqua nel 1981 mentre un anno dopo ha implementato la nuova sospensione posteriore Pro Lever a tutti i suoi modelli da cross.
Nel 1984, KTM ha iniziato a produrre radiatori e li ha venduti alla concorrenza (Suzuki è uno dei nomi più importanti). Tuttavia, nello stesso periodo in cui produceva parti di motociclette, l’azienda festeggiava il suo 100.000° motore KTM che aveva una cilindrata di 500cc, con sistema di raffreddamento a liquido e poteva produrre più di 50bhp.
La produzione in serie del motore KTM a 4 tempi raffreddato a liquido iniziò nel 1987 ma un anno dopo, uno dei fondatori dell’azienda, Eric Trunkenpolz muore. A causa della bancarotta, l’azienda fu divisa in divisioni indipendenti, che continuarono a produrre radiatori o a costruire motociclette e biciclette. Nel 1992, la nuova KTM Sportmotorcycle GmbH fu ufficialmente fondata, con un nuovo team di gestione, una nuova Hard Enduro e un nuovo design di moto.