WaveMaster系列示波器的时刻距离丈量精度选用下述公式标明：±((0.06 * 采样距离) +(1 ppm的丈量距离))。这一公式反映了数字示波器上时刻丈量不确认性的两个首要来历。第二个部分(1 ppm的丈量距离)标明因为示波器时基导致的不确认性。WaveMaster系列示波器选用1 ppm的时基，这是当时精度最高的示波器时基。这个部分影响着较长的时刻距离，例如，假如丈量的是1 GHz时钟(1 ns周期)，那么因为时基导致的不确认性是1 fs。
时刻距离精度的第一个部分(0.06 * 采样距离)与示波器的丈量内插算法和时基短期稳定性有关。在力科示波器中，时基对不确认性的影响十分小。内插算法是用来核算出信号穿越在某设定的电平的时刻上轴上切当时刻。鉴于力科供给了80 GS/s的最大采样率，在有些情况下需求运用内插。在任何一定边缘上存在三个或三个以下的样点时，示波器中会主动履行内插。在整个波形上不履行内插。可是，在丈量中只内插跳过门限周围的点。为找到穿越点，咱们运用立方内插，然后线性拟合到内插的数据，如图1所示
图1丈量内插的图形视图，显现怎样在采样的波形上确认跳过时刻(TOC)
内插精度取决于许多要素。首要要素是信号的跳变时刻、采样率、笔直噪声和有用笔直分辨率。图2是经过运用简略的模型，运用8位数字化器以20 GS/s采样率对300 ps边缘信号的典型核算方法。信号起伏是全标的80%。笔直分辨率和时刻分辨率之间的联系是：Dt =Dv/ dv/dt其间：Dt–时刻不确认性,Dv–起伏不确认性,dv/dt–跳变沿 对1 l.s.b.(1/256的全标)的笔直不确认性，以及在6个样点中0.8的全标的跳变沿(300 ps @ 50 ps/样点)，等效时刻不确认性为：
Dt = (1/256) / (0.8/6)= 0.03个采样周期
图2简略的模型，标明笔直不确认性与守时不确认性的映射联系 因为采样周期是50 ps，这一丈量的不确认性是1.5 ps。这种时刻不确认性适用于任何一项丈量。
大多数这类丈量不是以孤立方法进行的。屡次丈量答应用户研讨丈量值的改变。 在屡次丈量中，丈量值的平均值的不确认性会下降。对高斯分布，丈量不确认性会以丈量次数的平方根下降。因而，重复丈量100次能够使采样平均值的精度进步10倍。图3显现了在700 MHz方波上进行20次period@ level参数丈量的成果。每次丈量都在包含35,000个周期的收集上履行。这会把指定的不确认性降低到大约16 fs。丈量与频率计数器相关，频率计数器的丈量成果也制作在了图上。留意，示波器丈量很好位置于归一化后的目标极限内，与计数器丈量成果高度一致。留意，图上的水平标度是每格20 fs。
图3在20次收集中进行period @ level丈量的可重复性
运用采样数据不会把守时丈量精度约束在采样周期中。能够以ps级的分辨率在正确采样的波形上进行守时丈量，并支撑直到几十fs的中心值计算精度。
