Математический форум Math Help Planet
http://mathhelpplanet.com/

До какого знака после запятой округлить? Точность
http://mathhelpplanet.com/viewtopic.php?f=31&t=58034
Страница 1 из 1

Автор:  zebrar [ 01 фев 2018, 12:47 ]
Заголовок сообщения:  До какого знака после запятой округлить? Точность

есть число K с точностью 3 знака после запятой 0.000
есть число S с точностью 2 знака после запятой 0.00

над числами производится операции

1. M = S/K
2. M округляется до Y знаков после запятой
3. M = M * K
4. M округляется до 2 знаков после запятой

Какое должно быть число Y, чтобы соблюдалось условие S - M = 0 ?
Как решить такую задачу?
Как решить задачу в пределах чисел 1,000,000,000.00 > S > 0.00; 1,000,000.000 > K > 0.000;

Ситуация, когда условие не соблюдается встречается например при числах S=420064.58 и K=2407.000 при Y=4

Автор:  searcher [ 01 фев 2018, 15:53 ]
Заголовок сообщения:  Re: До какого знака после запятой округлить? Точность

zebrar писал(а):
Какое должно быть число Y, чтобы соблюдалось условие S - M = 0 ?

Если К не является произведением степеней двойки и пятёрки, то такого в точности не будет никогда.

Страница 1 из 1 Часовой пояс: UTC + 4 часа [ Летнее время ]
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group
http://www.phpbb.com/