Результат trunc(10278.8,2)

gloomy · Сообщение **gloomy** » 04 фев 2005, 15:58

Прошу прокомментировать

результат функции
trunc(10278.8,2)=10278.79
Примеры ошибки:
trunc(328921.6,2) = 328921.5900000002
trunc(328921.6*0.144,4) = 47364.71030000001

Deinis · Сообщение **Deinis** » 04 фев 2005, 18:07

http://www.tyumbit.ru/galaktika/read.ph ... 246&t=2244

gloomy · Сообщение **gloomy** » 04 фев 2005, 18:36

Изменение параметра на
[Common]
DeltaDouble=0.00001
не помогло.
Причем ошибка есть, если даже не работаешь с БД. Набираешь в выражение в окне "Вычислить и модифицировать". Где "Космическая точность"?

Галактика в вопросах и ответах

Результат trunc(10278.8,2)

Результат trunc(10278.8,2)

Re: Результат trunc(10278.8,2)

Re: Результат trunc(10278.8,2)