Проблема с округлением float, после вычитания...

[magic3d]

Если взять 2 числа float с 5 знаками после запятой и сделать вычитание, то получается чисо с 4 знаками. Посовейтуйте, как это победить. Сеньки..

[magic3d]

Я у себя проблему решил - просто увеличил маштаб сцены на 10 и дополнительный знак после запятой не понадобился. Но на вский случай, вопрос интересный и хотелось бы узнать решение..

[Multirezonator]

Для округления чисел используем Mathf.Round(float f):

Синтаксис:

Синтаксис: [ Показать ]

Используется csharp

float c=Mathf.Round(a-b);

[magic3d]

А ты хоть сам это пробовал - Mathf.Round(float f)? Вот у меня фунция делает как в описании - "rounded to the nearest integer"
А я написал, что в Unity все мат. действия выдают макс. 4 знака после запятой. Вот если координаты объектов - 5 знаков после запятой, то операции между ними будут не очень точны. Поэтому лучше просто увеличить маштаб сцены...

[discouraged_one]

хм... прекрасно, а как вы проверяли, простите?
А то ж первое что пришло в голову
Debug.Log(1.234567 - 0.123456);
выдало ожидаемое
1.111111

[magic3d]

Хммм... Тут убрали ответ, что у floate макс. - 7 знаков.
Т.е. Debug.Log( 20.234567 - 10.123456); будет уже 10,11111

[Neodrop]

Протираем глаза и читаем объявления форума. Откат был на день.

[Kann]

Хммм... Тут убрали ответ, что у floate макс. - 7 знаков.
Т.е. Debug.Log( 20.234567 - 10.123456); будет уже 10,11111

и что ? все правильно, в чем суть вопроса ? мы тут не кашпировские, мысли читать не умеем

[Neodrop]

Не верно. 7 знаков после запятой.

[magic3d]

2 Kann:
Мое последнее письмо для восстановления форума из-за вчерашнего отката. Другим тоже ведь надо знать...

Короче, вся проблема в том, что на float отдается всего 7 знаков, типа
100.1111 , 10.11111, 1.111111, 0.1111111

[Battle Angel Alita]

у floate макс. - 7 знаков

кхм.. почитайте как-нит на досуге как устроено число с плавающей точкой

[Neodrop]

2 Kann:
Мое последнее письмо для восстановления форума из-за вчерашнего отката. Другим тоже ведь надо знать...

Короче, вся проблема в том, что на float отдается всего 7 знаков, типа
100.1111 , 10.11111, 1.111111, 0.1111111

Да перестаньте вы бредить то, мил человек.

[DbIMok]

зря накинулись на человека, он прав )

По умолчанию точность значение Single составляет только 7 десятичных знаков, хотя во внутреннем представлении может использоваться до 9 цифр.

те всего у нас в распоряжении 7-9 значащих цифр независимо от того, где спозиционирована точка.

[magic3d]

Debug.Log(80.23456 + 20.12358); // = 100.3581 (на калькуляторе 100,35814)

Вот округление в этом варианте дала мне неприятности в вычислении. А при чем тут бред?

[Neodrop]

Цифры никуда не деваются после запятой. Это просто округление при приведении в String