Formaty liczbowe
ITpedia
| Wielokrotność | Przedrostek | Symbol |
|---|---|---|
| 1012 | tera | T |
| 109 | giga | G |
| 106 | mega | M |
| 103 | kilo | k |
| 10-3 | mili | m |
| 10-6 | mikro | u |
| 10-9 | nano | n |
| 10-12 | piko | p |
| 10-15 | femto | f |
Bajty lub słowa odpowiedzialne za przekaz informacji liczbowych wymagają konwersji do odpowiedniego formatu liczb całkowitych lub zmiennoprzecinkowych. Wśród formatów stałoprzecinkowych najbardziej typowym jest zapis liczb całkowitych z uzupełnieniem do dwóch, w którym najbardziej znaczący bit MSB (Most Significant Bit) niesie informację o znaku liczby. Dla liczb dodatnich dwubajtowa liczba całkowita bez znaku może przyjmować wartości od 0 do 65 535, a dla liczb ujemnych wartość w zakresie od – 32 768 do + 32 767. Liczby zmiennoprzecinkowe, zwane również rzeczywistymi, są zwykle zapisywane za pomocą 32 bitów (pojedyncza precyzja) lub 64 bitów (liczby o podwójnej precyzji). Wiele istniejących sposobów podziału bitów między mantysę i wykładnik liczby oraz stosowanie wielokrotnej precyzji umożliwiają prezentację liczb prawie o dowolnej dokładności.
