Масштабирование величин

Для того, чтобы масштабировать число, необходимо определить его величину. Достаточно вычислить величину с точностью до 1 единицы или при кратном 10 коэффициенте, умноженным на требуемую величину. После масштабирования числа проводится проверка для того, чтобы посмотреть попал ли результат в ожидаемый диапазон. Если нет, то результат может быть исправлен на один десятичный порядок вверх или вниз от требуемой величины. Подстроечный тест после масштабирования необходим для устранения неизбежной неточности в масштабированном значении.

Так как оценка значения для коэффициента масштабирования должна быть достаточно близкой, то используется быстрый прием масштабирования. Величина оценивается умножением степени 2, которая представляет из себя несмещенный порядок числа с плавающей точкой, соответственно с числом log(10) от 2. Округление результата до целого дает оценку достаточной точности. Игнорируя дроби, значение в результате может иметь максимальную ошибку 0.32.

Используя значение величины и размер числовой строки, можно вычислить коэффициент масштабирования. В процедуре перевода числа вычисление коэффициента масштабирования является самой неточной операцией. Для этого используется соотношение 10**(X) = 2**(X * log(10) 2) и команда F2XM1.

В соответствии с ограничениями на диапазон значений, разрешенных командой F2XM1, значение степени 2 разбивается на целую и дробную компоненты. Соотношение 2**(I + F) = 2**(I) x 2**(F) позволяет использовать инструкцию FSCALE для того, чтобы перекомбинировать значение 2**(F), вычисленное командой F2XM1, и часть 2**(I).