Вход для пользователей

You are here

МК-52: точность вычисления степенной функции

Не помню, как оно раньше было. Набираю:

8 В| 2 F x^y

Результат:

255.99998

Изображение пользователя st.

Вроде так и было. Была же проблема точности вычисления степенной функции, которая считается через логарифм и экспоненту.

Подтверждаю результат на МК-56. Действительно со степенной функцией у ПМК всегда были проблемы. На МК-152 ситуация улучшена, но тоже пока не идеальна.

Изображение пользователя Vitasam.

А на эмуляторе как? (не могу сейчас проверить под Линуксом)

Изображение пользователя st.

На эмуляторе "неверно", показывает 256

Изображение пользователя st.

Решение для МК-51/71. Насколько я помню, в инженерных МК-51/71 проблему решили за счет 2 допольнительных скрытых разрядов. Они округлялись, и в видимой области результат становился правильным.

В МК-152 тоже округляется при выводе. Но K[x] выводит этот трюк на чистую воду. Поэтому до выделения целой части я прибавлял 1/9.

Погрешность степенной функции. 8 В↑ 2 F xy

256,

256 -

1,6 -08

Погрешность осталась в прошлом. Прошивка 1.03 даёт правильный ответ, ноль!

Владельцам старой прошивки Новосибирск бесплатно осуществил замену.

Изображение пользователя Black_queen152.

Проверьте, пожалуйста, на новой прошивке:
1. При делении 99999999 самого на себя и после этого команде "К{x}" получается 0?
2. Что получается при делении самого на себя самых огромных чисел, например, 9*10^99 (на старой прошивке у меня получался 0 вместо положенной единицы)?

Да.

  1. Да.
  2. А сообщить Новосибирску — рука отсохла? Получается единичка. При записи в регистры — всё нормально. Но при вычислениях в стеке возникает ошибка порядка 10-14.
Изображение пользователя Black_queen152.

А кто сказал, что я не писала о глюках с делением Новосибирску?

Изображение пользователя Black_queen152.

За тесты - спасибо.