[piwniczanka00]

#matematyka #informatyka #programowanie #liczby
Wytłumaczy mi ktoś jaki mechanizm odpowiada za to, że:
9999999999999=1×10^13
Dlaczego niektóre kalkulatory to olewają a inne uwzględniają.
Dlaczego w programowaniu
999999999999999×9=8999999999999991
A powinno być 9×10^15.

[P.....L]

@piwniczanka00: Widziałem, że też potrafią złą liczbę po przecinku dawać, to coś z zaokrąglaniem.

[serio_serio]

@piwniczanka00: używa się liczb zmiennoprzecinkowych do reprezentowania liczb rzeczywistych i różne kalkulatory mają różne implementacje metod zaokrąglania zatem różną precyzję.

[Hauleth]

@piwniczanka00: Bo 64-bitowe liczby zmiennoprzecinkowe mają 13 liczb znaczących precyzji

[Kaczus2B]

@piwniczanka00: https://kaczus.ppa.pl/art/liczbyzmiennoprzecinkowe,19.html może się przydać rozumienie tego przy tworzeniu programów