[erwit]

Mirki, na czym polega problem? #python #programowanie #nodejs

[morsik]

@erwit: Ale jaki masz problem? :P
(hint: liczby zmiennoprzecinkowe i prezycja; poszukaj)

[G.....n]

@erwit: Nie ma problemu, pozdrawiam.
https://pl.wikipedia.org/wiki/IEEE_754

[erwit]

@morsik: z tym mam problem, ze 1.1 + 2 .2 to 3.3, przeziez @morsik: tu nie potrzeba nie wiadomo jak wielkiego zakresu :D

[mtmsweb]

@erwit: komputery tak liczą, każdy język zwróci taki wynik, a ze względu na zapis w pamięci w postaci wykladniczej, przy dużych liczbach błąd będzie jeszcze większy

[J.....n]

@erwit: na zaokrąglaniu typu float przez komputer

[gofr]

@erwit: miałeś metody numeryczne na studiach? Dobrze wytłumaczenie znajdziesz w dokumentacji - https://docs.python.org/2/tutorial/floatingpoint.html

[erwit]

@gofr: dzieki

[zranoI]

@erwit: polecam też:

[erwit]

@zranoI: swietnie wyjasnione, dzieki

[dzien_dobry]

@erwit: Jeśli potrzebujesz dokładne obliczenia zmiennoprzecinkowe, wykorzystaj Decimal https://docs.python.org/2/library/decimal.html

Decimal numbers can be represented exactly. In contrast, numbers like 1.1 and 2.2 do not have exact representations in binary floating point. End users typically would not expect 1.1 + 2.2 to display as 3.3000000000000003 as it does with binary floating point.

Przykład:
>>> from decimal import Decimal
>>> print Decimal('1.1') + Decimal('2.2')
3.3


[erwit]

@dzien_dobry: juz wiem, dzieki :)