超声波硬度计传感器由压电晶体、励磁线圈、传感器杆、金刚石锥体等组成，传感器杆一端与一个大质量刚体固定在一起，另一端镶有金刚石锥体压头。当压头与被测件不接触时（如图1a所示），处于自由振动状态，此时，传感器杆的固定端将是振动的波节点，压头端由于振幅最大而成为振动的波腹点，杆的长度等于振动波长的1/4,此时的频率就是传感器杆的自由振荡频率。当传感器杆的压头端完全被试件夹紧时（如图1c理想情况下传感器杆的两端都将成为振动的波节点，杆的长度等于振动波长的1/2,此时的频率是压头端处于自由状态时的两倍。当压头压到被测件上时，则处于上述两种情况之间（如图1b）.在固定负荷作用下，对于弹性模量相同的试件，硬度愈低，压痕愈深，振动的波长越小，杆的振动频率就越高。通过测量传感器杆振动频率的变化即可确定被测件的硬度。
需要指出的是，试件的弹性模量不同，也会影响传感器杆的振动状态，因此被测试块的弹性模量应与校准用的标准试块一致，以保证测试精度。