KTM a fost fondată în 1934 de Hans Trunkenpolz și a fost inițial cunoscută sub numele de Kraftfahrzeuge Trunkenpolz. Deoarece compania era de fapt un atelier de prelucrare a metalelor, iar vânzările erau destul de scăzute, proprietarii au decis să înceapă să producă motociclete. Doi ani mai târziu, în 1953, un om de afaceri austriac pe nume Ernst Kronreif a cumpărat o mare parte din companie, care a fost redenumită în Kronreif & Trunkenpolz Mattighofen (KTM).
În primul an de existență, aveau doar 20 de angajați și produceau aproximativ trei motociclete pe zi, inclusiv R100 de 98cc, un proiect care a început în 1951. KTM a participat pentru prima dată la evenimente de sporturi cu motor în 1953, în cadrul celei de-a 5-a competiții de la Gaisberg, în cadrul căreia a obținut primele trei locuri.
Un an mai târziu, KTM a sărbătorit livrarea motocicletei cu numărul 1000 și, în același an, a câștigat campionatul național austriac de 125 de ani. Doi ani mai târziu, în 1956, KTM a participat pentru prima dată la cursa internațională de șase zile, iar Egon Dornauer a câștigat aurul.
În 1959, inginerul KTM Ludwig Apfelbeck a dezvoltat o nouă motocicletă de curse pe care Erwin Lechner o folosește pentru a câștiga mai multe competiții offroad. Deși lucrurile mergeau destul de bine pentru companie, KTM începe să producă biciclete în 1964.
Doi ani mai târziu, KTM a început producția motocicletei de cross country Penton Six Days, o motocicletă care urma să fie exportată în SUA. Același an marchează câștigarea campionatului național austriac de către Manfred Klerr folosind noua motocicletă de 250cc Motorcross.
Mai important, în 1973, KTM începe producția de serie a motocicletelor 250 Motorcross și Enduro, în timp ce, în același an, echipa austriacă înregistrează primele puncte în Campionatul Mondial și primele victorii în Marele Premiu. Până în 1974, KTM avea o gamă de nu mai puțin de 42 de modele, dar chiar și așa, compania începe producția de KTM Hobby III în același an.
KTM a început anii ’80 cu o lovitură importantă, deoarece a introdus primele motociclete de 125cc Motorcross răcite cu apă în 1981, în timp ce un an mai târziu a implementat noua suspensie spate Pro Lever la toate modelele sale de motocros.
În 1984, KTM a început să producă radiatoare și să le vândă competitorilor (Suzuki fiind unul dintre cele mai importante nume). Cu toate acestea, în aceeași perioadă în care fabricau piese pentru motociclete, compania a sărbătorit motorul KTM cu numărul 100.000, care venea cu o cilindree de 500 cmc, cu sistem de răcire cu lichid și putea produce peste 50 CP.
Producția de serie a motorului KTM cu răcire cu lichid în 4 timpi a început în 1987, dar un an mai târziu, unul dintre fondatorii companiei, Eric Trunkenpolz, moare. Din cauza falimentului, compania a fost împărțită în divizii independente, care fie au continuat să fabrice radiatoare, fie să construiască motociclete și biciclete. În 1992, noua KTM Sportmotorcycle GmbH a fost fondată oficial, având o nouă echipă de conducere, un nou Hard Enduro și un nou design de motociclete.

.