Формат отображения числовых данных

Дата добавления: 2015-06-12; просмотров: 804; Нарушение авторских прав

Числовые данные, с которыми оперирует MATLAB, в памяти компьютера представлены вещественными или комплексными (их обсудим позже) переменными в формате double. Это означает, что каждое вещественное число занимает 8 байтов в оперативной памяти и принимает по модулю значения из диапазона . Количество значащих цифр при этом достигает 16-17. Именно с такой точностью MATLAB выполняет все вычисления. Однако при отображении всех результатов на экране часть значащих цифр отбрасывается в соответствии с установленным форматом вывода. Отображаемые значения округляются по общепринятым в математике правилам.

В таблице 1 представлены основные форматы вывода числовых данных с фиксированной (левый столбец) и плавающей (правый столбец) запятой. Формат rational позволяет отображать числовые значения в виде подходящих рациональных дробей с минимально возможными числителями и знаменателями. При этом значение переменной x, хранящееся в памяти компьютера, не зависит от установленного формата вывода.

Таблица 1. Форматы вывода чисел
Пример отображения числа	Пример отображения числа	Пример отображения числа
>> format short >> x=sqrt(2) x = 1.4142	>> format short e >> x x = 1.4142e+000	>> format rational >> x x = 1393/985
>> format long >> x x = 1.414213562373095	>> format long e >> x x = 1.414213562373095e+000

По умолчанию система использует формат short (укороченный).

Есть целый ряд системных числовых констант, которые не надо портить:

pi – число ;

realmax – наибольшее положительное число с плавающей запятой;

realmin – наименьшее положительное число с плавающей запятой;

eps – относительная погрешность при вычислениях с плавающей запятой.

<== предыдущая лекция	\|	следующая лекция ==>
Упражнение 4.	\|	Основные математические функции