KM została założona w 1934 roku przez Hansa Trunkenpolza i początkowo była znana jako Kraftfahrzeuge Trunkenpolz. Ponieważ firma była właściwie zakładem obróbki metali, a sprzedaż była dość niska, właściciele postanowili rozpocząć produkcję motocykli. Dwa lata później, w 1953 roku, austriacki biznesmen Ernst Kronreif kupił duży udział w firmie, która zmieniła nazwę na Kronreif & Trunkenpolz Mattighofen (KTM).
W pierwszym roku istnienia firma zatrudniała tylko 20 pracowników i produkowała około trzech motocykli dziennie, w tym model R100 o pojemności 98 cm3, projekt rozpoczęty w 1951 roku. KTM po raz pierwszy wziął udział w zawodach motorowych w 1953 roku w 5. konkursie Gaisberg, w którym zajął trzy pierwsze miejsca.
Jeden rok później KTM świętował dostawę swojego tysięcznego motocykla i w tym samym roku zdobył mistrzostwo Austrii w klasie 125. Dwa lata później, w 1956 r., KTM po raz pierwszy wziął udział w międzynarodowym wyścigu Six Days, w którym Egon Dornauer zdobył złoto.
W 1959 r. inżynier KTM Ludwig Apfelbeck opracował nowy motocykl wyścigowy, na którym Erwin Lechner wygrywa liczne zawody offroadowe. Mimo że sprawy układały się całkiem dobrze dla firmy, w 1964 r. KTM rozpoczyna produkcję rowerów. Co ważniejsze, w 1973 roku KTM rozpoczyna seryjną produkcję motocykli 250 Motorcross i Enduro, a w tym samym roku austriacki zespół notuje pierwsze punkty w Mistrzostwach Świata i pierwsze zwycięstwa w Grand Prix. Do 1974 roku KTM posiadał gamę nie mniejszą niż 42 modele, ale nawet wtedy firma rozpoczyna produkcję KTM Hobby III w tym samym roku.
KTM rozpoczął lata 80-te od ważnego uderzenia, ponieważ wprowadził pierwsze chłodzone wodą motocykle motorcrossowe 125cc w 1981 roku, podczas gdy rok później wprowadził nowe tylne zawieszenie Pro Lever do wszystkich swoich modeli motorcrossowych.
W 1984 roku KTM rozpoczął produkcję chłodnic i sprzedawał je konkurentom (Suzuki było jedną z najważniejszych nazw). Jednak w tym samym czasie były produkcji części motocyklowych, firma obchodziła ich 100,000th KTM silnika, który przyszedł z przemieszczenia 500cc, z systemem chłodzenia cieczą i może produkować więcej niż 50bhp.
Seryjna produkcja KTM 4 suw silnik chłodzony cieczą rozpoczął się w 1987 roku, ale rok później, jeden z założycieli firmy, Eric Trunkenpolz umiera. Z powodu bankructwa, firma została podzielona na niezależne oddziały, które albo kontynuowały produkcję chłodnic, albo budowały motocykle i rowery. W 1992 roku została oficjalnie założona nowa firma KTM Sportmotorcycle GmbH, z nowym zespołem zarządzającym, nowym Hard Enduro i nowym projektem motocykla.

.