Einer seiner Lehrer in Freiberg ist der Mineraloge und Geognost Abraham Gottlob Werner, durch den Mohs mit der Mineralogie
und Geognosie bekannt gemacht wird. 1801 ist Mohs Steiger im Bergbau Neudorf/Harz. Im Jahr 1802 kommt er erstmals nach Wien,
um hier die bedeutende Sammlung des Bankiers J. F. van der Nüll zu ordnen und zu beschreiben (diese Sammlung wird 1827 vom
k.k. Mineralien-Cabinet übernommen). Mit seiner systematischen Gliederung des Mineralreiches stand Mohs in Widerspruch zu
den meisten anderen Mineralogen seiner Zeit, da er die physikalischen Eigenschaften (wie Gestalt, Spaltbarkeit, Härte und
spezifisches Gewicht) als Gliederungsprinzip der chemischen Zusammensetzung der Mineralien vorzog.
1812 wurde Mohs mit einer Professur für Mineralogie am Joanneum in Graz betraut. In seiner Grazer Zeit entwickelte er die
Mohs' sche Härteskala. Sein Aufenthalt in Graz währte nur kurz. So trat er 1817 die Nachfolge seines Lehrers A. G. Werner
an der Bergakademie in Freiberg an. 1826 wurde Mohs als Professor für Mineralogie an die Universität Wien berufen. Seine Vorlesungen
dazu hielt er aber am k.k. Mineralien-Cabinet. 1834 erhält er hier neben seiner Professur auch eine der Kustodenstellen.
1835 wird Mohs vom Mineralien-Cabinet abgezogen und als wirklicher Bergrath mit der Errichtung eines Montanistischen Museums in Wien beauftragt, dessen Leitung er von 1835-1839 innehatte. 1849 ging daraus die k. k. Geologische Reichsanstalt (heute Geologische Bundesanstalt) hervor. Am 29. 9. 1839 stirbt Mohs auf einer Italienreise. 1888 erhält Mohs ein Ehrengrab auf dem Wiener Zentralfriedhof (Abteilung 32A, Nr. 4). Ihm zu Ehren befindet sich an der Balustrade des Naturhistorischen Museums eine 3 Meter hohe Statue.
Das Mineral Mohsit wurde ihm zu Ehren benannt. Leider wurde es später als eine Varietät des Minerals Crichtonit erkannt und daher diskreditiert.
