Wpis z mikrobloga

@pandapl: komputer przechowuje liczby w systemie dwójkowym. Niestety zarówno 0.1 jak i 0.2 nie mają skończonej reprezentacji w tym systemie (podobnie jak 1/3 w dziesiętnym, za to w trójkowym już ma).

Żeby było gorzej, komputer może przechować te liczby tylko z określoną dokładnością i przez to wychodzą takie przybliżenia jak na obrazku.

IEEE 754
  • Odpowiedz