Hogyan és mivel végezzünk nagy számítási pontosságot igénylő műveleteket?
Ha a Pythonban a számítási műveleteket float típusú operandusokkal végzünk, akkor azt tapasztalhatjuk, hogy nem mindig kapunk pontos, egzakt eredményt, még akkor sem, ha előre ismert számú jegyet tartalmazó véges tizedestört, vagy akár egész szám lenne az eredmény. Például 3*0.14 = 0.42000000000000004, vagy 10e9-10e-9 = 10000000000.0, vagy 2.3-0.1-0.1-0.1 = 1.9999999999999996, amelyek egyike sem pontos eredmény. …
Hogyan és mivel végezzünk nagy számítási pontosságot igénylő műveleteket? Read More »