Історія закладу починається 8 жовтня 1901 року, коли за ініціативою Дмитра Менделєєва була відкрита повірочна палатка для вивірки і таврування торговельних мір і ваг. Серед експонатів музею є робочий еталон того часу – позолочена гиря масою 1 кг, що очолювала перевірну схему засобів вимірювань маси в країні до 1939 року. Особливе зацікавлення відвідувачів привертають такі раритетні предмети, як маятниковий годинник Рифлера з точністю ходу 0,01 с/добу (використовувався у 1925–1941 роках) і штрихова міра довжини – метр (застосовувався в метрології до 1973 року). За період існування закладу тут було створено багато засобів метрологічної техніки. Так, тут з’явились перші у світі фотоелектричні компаратори для вимірювання високих температур, унікальні для країни кварцові резонатори для служби часу та частоти, ядерний вимірювач напруженості магнітного поля та інші прилади. Багато з експонатів музею демонтрували на вітчизняних і міжнародних виставках.