Ha a Pythonban a számítási műveleteket float típusú operandusokkal végzünk, akkor azt tapasztalhatjuk, hogy nem mindig kapunk pontos, egzakt eredményt, még akkor sem, ha előre ismert számú jegyet tartalmazó véges tizedestört, vagy akár egész szám lenne az eredmény. Például 3*0.14 = 0.42000000000000004, vagy 10e9-10e-9 = 10000000000.0, vagy 2.3-0.1-0.1-0.1 = 1.9999999999999996, amelyek egyike sem pontos eredmény.
Ennek oka, hogy a számítógép binárisan, a 2 hatványaival ábrázolja a számokat, és a tizedes törtek nem mindig ábrázolhatók pontosan bináris törtként. Ez a korlát az alkalmazások nagy részében nem okoz gondot. Vannak azonban olyan matematikai vagy más tudományos feladatok, amelyeknél a számítási pontosság döntő jelentőségű, és nem engedhető meg az ábrázolási pontatlanságból vagy azok halmozódásából eredő hiba. Ilyen területek például az orbitális pályák számítása, a klímamodellek vagy a nukleáris fizikai számítások.
Nem kell azonban lemondanunk ezekről az alkalmazásokról sem, mert az ilyen, nagypontosságú számításokat a szabványos könyvtár decimal moduljának igénybevételével el tudjuk végezni. A számokat az e modulból elérhető Decimal típussal ábrázoljuk.
Az alábbi kódsorokban láthatjuk a fent felsorolt műveletek eredményét Decimal típus használatával. Itt az is látható még, hogy egy irracionális számot eredményező művelet (négyzetgyökvonás) után kapott számot milyen pontosan adja vissza a float és a Decimal típus.
|
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 |
from decimal import Decimal, getcontext x = Decimal(3)*Decimal('0.14') print(x) #Eredmény: 0.42 y = Decimal('1e9')-Decimal('1e-9') print(y) # Eredmény: 999999999.999999999 z = Decimal('2.3')-Decimal('0.1')-Decimal('0.1')-Decimal('0.1') print(z) # Eredmény: 2.0 # Négyzetgyökszámítás float és Decimal típusú számokkal. r = 2**0.5 print(r) # Eredmény: 1.4142135623730951 # Alapértelmezetten a Decimal pontossága (értékes jegyek száma) 28. u = Decimal(2).sqrt() print(u) # Eredmény: 1.414213562373095048801688724 # Megnöveljük a pontosságot 40-re a decimális aritmetika # kontextusobjektuma megfelelő attribútumának beállításával. ctx = getcontext() ctx.prec = 40 v = Decimal(2).sqrt() print(v) # Eredmény: 1.414213562373095048801688724209698078570 |
A decimal modul egy további lényeges jellemzője, hogy a számítási környezetet (kontextust) is meg lehet határozni, amelyben többek között a számítási pontosságot is be tudjuk állítani az igényeinknek megfelelően. Ezt láthatjuk az utolsó kódsorokban.
A decimal modul nagyon sok lehetőséget kínál a nagy pontosságot igénylő számítások végzéséhez, továbbá a decimális aritmetika számábrázolási ismeretei is szükségesek a megértéséhez és hatékony használatához. Ezért csupán a Python hivatalos dokumentációjára támaszkodva nem biztos, hogy egyszerű a megtanulása. Éppen ezért a Python tudásépítés lépésről lépésre című e-könyv egy teljes fejezetet szán e modulnak, és megpróbálja közérthetően tálalni a tudnivalókat számos példával, ábrával és táblázattal segítve a megértést.