Почему в python нет функции для математического округления?
Для обыкновенного математического округления приходится задействовать сторонний модуль и 2 функции: from decimal import Decimal, ROUND_HALF_UP d = Decimal(5.445).quantize(Decimal(…
Вопросы по тегу: числа-с-плавающей-точкой
- 5 ▲3 ответ.
- 0 ▲1 ответ.
Подскажите, что не так? Выдает a = -nan(ind)
#include <iostream> #include <cmath> using namespace std; const double P = 3.14159265; double calculateA(double x, double y, double z) { double z1 = fabs(P * z / 180 -…
- 4 ▲1 ответ.
Сравнение эффективности float и double
Сегодня в обычном вопросе в комментариях в очередной раз всплыл вопрос, использовать ли float или double; мотивация при этом была та же, что возникала уже не раз: float должен раб…
- 6 ▲3 ответ.
Сложение вещественных чисел с разными знаками
Пытаюсь понять, как происходит сложение вещественных чисел в формате binary32 (он же single precision или просто float в большинстве языков программирования), но немного не понима…
- 12 ▲0 ответ.
При переводе числа int во float и обратно теряется точность числа
Вопрос на злобу дня освежить знания о числе с плавающей точкой и потренировать перевод этого числа в двоичную систему и обратно. В документах оракла в пункте 5.1.2 приводится прим…
- 0 ▲1 ответ.
Как не терять центи при рассчете средств
Я храню значение в базе как int64 и оперирую int64, а не float, перемножаю на 100 и округляю до ближайшего. Но насколько я понял, при расчете налогов когда идет перемножение/делен…