AXForum  
Вернуться   AXForum > Microsoft Dynamics AX > DAX: Программирование
All
Забыли пароль?
Зарегистрироваться Правила Справка Пользователи Сообщения за день Поиск

 
 
Опции темы Поиск в этой теме Опции просмотра
Старый 05.04.2011, 15:46   #1  
raz is offline
raz
NavAx
Аватар для raz
NavAx Club
Лучший по профессии 2014
Лучший по профессии 2009
 
1,495 / 1070 (38) ++++++++
Регистрация: 22.07.2003
Адрес: МО
Еще один странный глюк
Имеем тестовый Job
X++:
static void Test_Job(Args _args)
{
    AmountCur         a,b,c,d,e,f,t1,t2;
    ;
    a = 13532.5;
    b = 100 / 2827;
    c = 2776851.86;
    d = 2776851.86;
    e = a / b;
    f = (a / b) / c * d;

    e = Currency::amount(e);
    f = Currency::amount(f);

    info(strfmt("%1", e));
    info(strfmt("%1", f));
}
Результат:
Цитата:
382 563,78
382 563,77
Т.е. получаем расхождение в копейку, обнаружено при сопоставлении.
Дело в этом куске:
X++:
b = 100 / 2827;
Если тут прописать:
X++:
b = 0.0353731871241599;
То результат:
Цитата:
Сообщение (15:46:14)
382 563,77
382 563,77
ЗЫ. DAX 3 KR1
Теги
округление

 

Похожие темы
Тема Автор Раздел Ответов Посл. сообщение
Глюк RunBase (AX40sp2) Alexx7 DAX: Программирование 7 22.01.2010 10:59
DeadLock. Один сеанс - несколько процессов. Владимир Максимов DAX: Программирование 20 12.07.2008 11:02
Глюк автоматическое рассопопоставление Logger DAX: Функционал 4 14.07.2006 10:09
Enum: глюк? Gorlum DAX: Программирование 11 10.02.2006 07:43
Help! Странный глюк.. AfA DAX: Прочие вопросы 8 25.02.2004 23:58

Ваши права в разделе
Вы не можете создавать новые темы
Вы не можете отвечать в темах
Вы не можете прикреплять вложения
Вы не можете редактировать свои сообщения

BB коды Вкл.
Смайлы Вкл.
[IMG] код Вкл.
HTML код Выкл.
Быстрый переход

Рейтинг@Mail.ru
Часовой пояс GMT +3, время: 12:29.