Seit Jahrhunderten ist die Eisen- und Metallverarbeitung fixer Bestandteil der industriellen Entwicklung im Raum Weiz. Bereits um 1400 wurden die ersten und ältesten Hämmer in Weiz errichtet.
Im Jahr 1712 kam der Klingenschmied Josef Mosdorfer von Bayern nach Weiz und heiratete die Witwe Anna Lehr (stellte am Hammer in Weiz bereits Säbel und Haudegenklingen her).
12 Generationen der Familie Mosdorfer prägten die Entwicklung des Unternehmens, das auch heute noch besteht.
Gunther Knill initiierte das erste „Werksmuseum“ schon in den 80er Jahren. Er setzte sich zum Lebensziel alte Klingen, Sicheln und Hacken aus dem Hause Mosdorfer wieder zurück zu erwerben und der Nachwelt zu erhalten.
Im Jahr 2012 wurde das Museum von seinen beiden Söhnen Christian und Georg Knill zu einem interaktiven Erlebnis umgestaltet und im Rahmen der 300 Jahr-Feier der Knill Gruppe eröffnet.
Im Oktober 2013 wurde der Verein „Freunde der Klingenschmiede“ gegründet. Er fördert und unterstützt seitdem die Arbeit des Museums.