Проблема с округлением float, после вычитания...

Программирование на Юнити.

Re: Проблема с округлением float, после вычитания...

Сообщение ffinder 11 июн 2010, 10:34

Точность флоатов зависит от экспоненты.
Товарищ Майк Уэст хорошо объясняет про точность флоатов вот тут: http://cowboyprogramming.com/2007/01/05/visualizing-floats/
Даже с картинками.
ffinder
UNITрон
 
Сообщения: 192
Зарегистрирован: 26 мар 2009, 17:35
  • Сайт

Re: Проблема с округлением float, после вычитания...

Сообщение DbIMok 01 фев 2011, 16:11

еще одно объяснение http://habrahabr.ru/blogs/cpp/112953/
правильный вопрос - половина ответа. учитесь формулировать вопросы понятно.
Новости > _Telegram чат @unity3d_ru (11.6k/4.8k online) > _Telegram канал @unity_news (4.7k подписчиков) > Телеграм тема > "Спасибо"
Аватара пользователя
DbIMok
Адепт
 
Сообщения: 6372
Зарегистрирован: 31 июл 2009, 14:05

Пред.

Вернуться в Скрипты

Кто сейчас на конференции

Сейчас этот форум просматривают: Yandex [Bot] и гости: 14