История учреждения начинается с 8 октября 1901 года, когда была основана инициированная Дмитрием Менделеевым поверочная палатка для выверки и клеймения торговых мер и весов. Среди экспонатов музея есть рабочий эталон того времени – позолоченная гиря массой 1 кг, возглавлявшая контрольную схему средств измерительной массы в стране до 1939 года. Особый интерес у посетителей вызывают такие раритетные предметы, как маятниковые часы Рифлера с точностью хода до 0,01 с/сутки (применялись в 1925-1941 годах) и штриховая мера длины – метр (использовался в метрологии до 1973 года). За время существования учреждения было создано много средств метрологической техники. Так, здесь впервые в мире появились фотоэлектрические компараторы для измерения высоких температур, уникальные для страны кварцевые резонаторы для службы времени и частоты, ядерный измеритель напряженности магнитного поля и другие устройства. Многие из них экспонируются в музее, а также демонстрировались на украинских и международных выставках.