KTM wurde 1934 von Hans Trunkenpolz gegründet und war zunächst als Kraftfahrzeuge Trunkenpolz bekannt. Da es sich bei dem Unternehmen eigentlich um eine Schlosserei handelte und der Umsatz ziemlich gering war, beschlossen die Eigentümer, mit der Herstellung von Motorrädern zu beginnen. Zwei Jahre später, 1953, kaufte ein österreichischer Geschäftsmann namens Ernst Kronreif einen großen Teil des Unternehmens, das daraufhin in Kronreif & Trunkenpolz Mattighofen (KTM) umbenannt wurde.
Im ersten Jahr des Bestehens beschäftigte das Unternehmen nur 20 Mitarbeiter und produzierte etwa drei Motorräder pro Tag, darunter die 98er R100, ein Projekt, das 1951 begonnen wurde. Die erste Teilnahme an Motorsportveranstaltungen erfolgte 1953 beim 5. Gaisberg-Rennen, bei dem KTM die ersten drei Plätze belegte.
Ein Jahr später feierte KTM die Auslieferung des 1000sten Motorrads und gewann im selben Jahr die österreichische 125er Staatsmeisterschaft. Zwei Jahre später, 1956, nahm KTM erstmals am Internationalen Sechstagerennen teil und Egon Dornauer gewann die Goldmedaille.
Im Jahr 1959 entwickelte der KTM-Ingenieur Ludwig Apfelbeck ein neues Rennmotorrad, mit dem Erwin Lechner mehrere Offroad-Wettbewerbe gewann. Obwohl die Dinge für das Unternehmen recht gut liefen, beginnt KTM 1964 mit der Herstellung von Fahrrädern.
Zwei Jahre später beginnt KTM mit der Produktion der geländegängigen Penton Six Days, ein Motorrad, das in die USA exportiert werden soll. Im selben Jahr gewinnt Manfred Klerr mit der neuen 250er Motorcross-Maschine die österreichische Staatsmeisterschaft.
Im Jahr 1973 beginnt KTM mit der Serienproduktion der 250er Motorcross- und Enduro-Maschinen, während das österreichische Team im selben Jahr die ersten WM-Punkte und die ersten Grand Prix-Siege einfährt. Bis 1974 hatte KTM nicht weniger als 42 Modelle im Programm, doch noch im selben Jahr beginnt das Unternehmen mit der Produktion der KTM Hobby III.
Die 80er Jahre begannen für KTM mit einem wichtigen Erfolg, als 1981 die ersten wassergekühlten 125er Motorcross-Motorräder vorgestellt wurden, während ein Jahr später die neue Pro Lever-Hinterradaufhängung für alle Motorcross-Modelle eingeführt wurde.
Im Jahr 1984 begann KTM mit der Herstellung von Kühlern und verkaufte diese an die Konkurrenz (Suzuki war einer der wichtigsten Namen). Gleichzeitig mit der Herstellung von Motorradteilen feierte das Unternehmen jedoch den 100.000sten KTM-Motor, der einen Hubraum von 500 ccm hatte, mit einem Flüssigkeitskühlsystem ausgestattet war und mehr als 50 PS leistete.
Die Serienproduktion des flüssigkeitsgekühlten KTM-Viertaktmotors begann 1987, doch ein Jahr später starb einer der Firmengründer, Eric Trunkenpolz. Aufgrund des Konkurses wurde das Unternehmen in unabhängige Abteilungen aufgeteilt, die entweder die Produktion von Kühlern oder den Bau von Motorrädern und Fahrrädern fortsetzten. 1992 wurde die neue KTM Sportmotorcycle GmbH offiziell gegründet, mit einem neuen Managementteam, einer neuen Hard Enduro und einem neuen Motorraddesign.