В шестнадцатеричной с/с это число будет записано как C18A6666
При записи чисел в ПЭВМ и при их выводе на печать или экран переход от порядка к характеристике и наоборот происходит автоматически. Понятно, что с увеличением числа битов, выделяемых для изображения числа, увеличивается точность его представления.
Если количество цифр в числе больше выделяемого поля памяти, то избыточные цифры отбрасываются и число будет приближенным, при этом округление происходит с избытком. Если в старшем отбрасываемом бите числа записана единица, то к младшему биту оставшейся части единица прибавляется.
Если первая избыточная двоичная цифра ноль, то лишние цифры просто отбрасываются.
Если число меньше по абсолютной величине минимального положительного числа, представленного в соответствующем формате, то в память компьютера оно будет записано в виде нуля. Это так называемый «машинный ноль».
Кроме того, числа, полученные в результате вычислений, не должны превышать по абсолютной величине максимального числа, представленного в соответствующем формате. Иначе старшие биты числа будут потеряны, а результаты вычислений искажены. Такая ситуация называется переполнением разрядной сетки, а сами числа «машинной бесконечностью».
Довольно часто вещественные числа выводятся на печать или экран монитора в экспоненциальной форме:
mE±p,
где m – мантисса (целое или дробное число с десятичной точкой),
p – порядок (целое число).
Для того чтобы перевести число в экспоненциальной форме к обычному представлению с фиксированной точкой, необходимо мантиссу умножить на десять в степени порядок.
Например,
-6.42Е+2 = -6.42.102 = -642
3.2E-6 = 3.2.10-6 =-0.0000032
Дата добавления: 2018-04-05; просмотров: 286; Мы поможем в написании вашей работы! |
Мы поможем в написании ваших работ!