Особенности выполнения арифметических операций

Особенности выполнения операций над целочисленными операндами и операндами с плавающей точкой связаны с особенностями выполнения арифметических операций и с ограниченной точностью переменных типа float и double.

Представление величин:

float – 7 значащих цифр.

double – 16 значащих цифр.

1000000*100000==1000000000000, но максимально допустимое положительное значение для типа System.Int32 составляет 2147483647. В результате переполнения получается неверный результат -727379968.

Ограниченная точность значений типа System.Single проявляется при присвоении значений переменной типа System.Double. Приводимый ниже простой программный код иллюстрирует некоторые особенности арифметики .NET.

using System;

class Class1

{

const double epsilon = 0.00001D;

static void Main(string[] args)

{

int valI = 1000000, resI;

resI = (valI*valI)/valI;

// -727379968/1000000 == -727

Console.WriteLine("The result of action (1000000*1000000/1000000) is {0}", resI);

float valF00 = 0.2F, resF;

double valD00 = 0.2D, resD;

// Тест на количество значащих цифр для значений типа double и float.

resD = 12345678901234567890; Console.WriteLine(">>>>> {0:F10}",resD);

resF = (float)resD; Console.WriteLine(">>>>> {0:F10}",resF);

resD = (double)(valF00 + valF00); // 0.400000005960464

if (resD == 0.4D) Console.WriteLine("Yes! {0}",resD);

else Console.WriteLine("No! {0}",resD);

resF = valF00*5.0F;

resD = valD00*5.0D;

resF = (float)valD00*5.0F;

resD = valF00*5.0D; //1.0000000149011612

if (resD == 1.0D) Console.WriteLine("Yes! {0}",resD);

else Console.WriteLine("No! {0}",resD);

resF = valF00*5.0F;

resD = valF00*5.0F; //1.0000000149011612

if (resD.Equals(1.0D)) Console.WriteLine("Yes! {0}",resD);

else Console.WriteLine("No! {0}",resD);

if (Math.Abs(resD - 1.0D) < epsilon)

Console.WriteLine("Yes! {0:F7}, {1:F7}",resD - 1.0D, epsilon);

else

Console.WriteLine("No! {0:F7}, {1:F7}",resD - 1.0D, epsilon);

}

}