14.3.4 Verhoging der rekennauwkeurigheid

Grotere nauwkeurigheid wordt, verkregen, als het verschil van de hoofdschaal D en de juiste exponentiŽle schaal in het bereik 1.001 tot 1.01 door meerekenen van de tweede kwadratische term van de reeksontwikkeling gecorrigeerd wordt.

A.

voor de basisinstelling op schaal D

 

B.

voor de aflezing op schaal D

Wordt het resultaat van een exponentiŽle schaal afgelezen, dan is de correctie volgens formule A voor de instelling op schaal D voldoende. Wordt echter alleen met schaal D gerekend, dan moet de instelling en de aflezing gecorri≠geerd worden.†††††††††††††††††††††††††††††††††††††††††† ††.

Voorbeeld:

1.00233.7 =1.00854

In plaats van n = 0.0023 wordt 0.0023 ∑ (1 - 1/2 -0.0023) = 0.0023 ∑ 0.99885 = 0.002297 op schaal D met de schuif ingesteld. Het antwoord wordt dan 1 + 0.002297 ∑ 3.7 = 1.00850. Omdat dit een aflezing is van schaal D moet deze uitkomst gecorrigeerd worden volgens formule B:

0.00850 ∑ (1 + 1/2 ∑ 0.00850) = 0.00850 -1.00425 = 0.00854.

Na optelling van 1 wordt het resultaat 1.00854.

Deze berekening ziet er wat gecompliceerd uit, maar is, na enige oefening, werkelijk eenvoudig, zodat men ten slofte de correcties Ąop het oog" kan instellen. Zulke correcties zijn niet meer nodig, als het grondtal < 1.001 is, omdat dan met de benadering de nauwkeurigheid van de rekenliniaal zelf bereikt wordt.