Здравствуйте дети! :)

[slava]

Цитата:

Изначально опубликовано maxsmirnov
...и, протестируйте, пожалуйста, кто-нибудь на 2.5

PHP код:

b = 19999.99999999998 


в print'е пишет 20000

2.5 SP1HF1

[Hamster]

правильно пишет.
округление работает

[George Nordic]

Это нормально. Функции вывода округляют до 3го знака после запятой.
Т.е. максимум, что выведет, это 9999.994. потом округлит. Как print, так и strfmt.

С Уважением,
Георгий

[slava]

Цитата:

Изначально опубликовано Hamster
правильно пишет.
округление работает

не спорю, правильно. хорошо что не 10000.

[George Nordic]

Он и до этого округлит, но выведет 9999,99
а вот 9999,995 - уже напишет 10000.

И только на одинаковых слагаемых, над которыми были произведены преобразования, в ходе которых получалась бесконечная дробь, заметьте.

[Wamr]

Проверил на 2.5 - аналогичный случай

Цитата:

И только на одинаковых слагаемых, над которыми были произведены преобразования, в ходе которых получалась бесконечная дробь

не совсем так..
real a = 9999.999999999997;
real b = 9999.999999999998;
a+b = 10000

[Logger]

2 Hezl
------------------------------------
Дело не в точности - 9999.9999999999999 будет суммировать нормально
------------------------------------

Неудачный пример.
Дело в том что Аксапта сначала округляет константы до приемлемого вида.
В данном примере после компиляции 9999.9999999999999 будет рассматриваться виртуальной машиной как 10000.
Можете проверить под отладчиком :
real d = 9999.9999999999999; // реально заносится 10000. Поэтому с таким числом ошибок и не возникало. Реально работа шла с константой 10000. Я думаю то же самое при использовании числовых констант в выражениях.

[Maxim Gorbunov]

Цитата:

Изначально опубликовано Wamr
Проверил на 2.5 - аналогичный случай

2.5 SP1 RU - работает правильно (то есть 20000 выдает).

Цитата:

Изначально опубликовано Wamr
не совсем так..
real a = 9999.999999999997;
real b = 9999.999999999998;
a+b = 10000

Опытным путем установлено, что если сумма цифр в последней позиции больше или равна 15, появляется ошибка. Для остальных значений работает верно.

[domandr]

Цитата:

Изначально опубликовано Maxim Gorbunov

2.5 SP1 RU - работает правильно (то есть 20000 выдает).
Опытным путем установлено, что если сумма цифр в последней позиции больше или равна 15, появляется ошибка. Для остальных значений работает верно.

Только не говорите, что это фича, а не баг

[Maxim Gorbunov]

Не скажу... Хотя... Кто его знает....

[komar]

Предлагаю использовать фичу для тестового забега в сервисную систему (http://www.axforum.info/forums/showt...6623#post46623)

[if_maks]

на 2.5 SP3 тоже все как нада - 20 000

[Diman]

Цитата:

Изначально опубликовано if_maks
на 2.5 SP3 тоже все как нада - 20 000

Неа. 10 000.

[domandr]

Цитата:

Изначально опубликовано Diman


Неа. 10 000.

Может там в настройках галка есть, которая переключает с правильного счета, на не правильный

[Hamster]

Подозреваю что это зависит от (в том числе)

1) конфигурации (3-2 звенка)
2) версии ОС

[if_maks]

а да простите - ошибся
Axapta 2.5 SP2 Build #7.1

20 000

т.е. можно предположить что SP3 для 2.5 несет эту "фичу"

[Lazy_Tiger]

Цитата:

Изначально опубликовано komar
Предлагаю использовать фичу для тестового забега в сервисную систему (http://www.axforum.info/forums/showt...6623#post46623)

Axapta 3.0 SP2, SP3 - имеет место быть...
да, забавненько. Сейчас проснется мой партнер...

[REb]

А я как раз человек, который эту ошибку обнаружил! )

Самое интерестное, что я нашел эту "фичу" как раз на реальных вычислениях в отчете - у меня был отчет выгружаемый в Excel где я "руками" расчытывал некие итоги из сумм умноженных на коэффициенты. И вот в этом отчете на реальных данных при расчете получалось два числа 9999.999999999999, которые при отображении показывались, действительно как 10000, но при сложении давали тоже 10000 ;(((

Удалось обойти благодоря округлению сумм после умножения на коэфициент.

Теперь аккуратнее отношусь к подобным вещам.


Вот такая печальная история )

[domandr]

Интересно, и что у Вас такими цифрами измеряется. (я про хвостик дроби)

[savel]

А дело даже не в хвостике.
Точка может стоять в любом месте, и даже её может совсем не быть! Всё единно результат не правильный!