Расчеты

У меня вопрос по поводу расчетов… я с ними запуталась окончательно.
В геодезии, как я поняла, очень важна максимальная точность вычислений.
Но считая что-либо с синусами и косинусами, я столкнулась со следующей проблемой:
Вот пример:
135,62 * cos 139°32'
Можно посчитать по-разному, и, в зависимости от способа вычисления, получаются совершенно разные результаты.
Ну, во-первых, переводим минуты в градусы, получается: 139°32' = 139,53(3)
Для простоты округляем 139,53(3) = 139,53
То есть у нас cos 139°32' = cos 139,53.

А теперь самое интересное: 135,62 * cos 139,53 можно высчитать двумя разными путями:

1 путь: сначала высчитываем косинус, а потом умножаем на него 135,62.
Выглядит так:
cos 139,53 = - 0,76074591155 (считаю на калькуляторе, естественно)
Полученный результат округляю до = - 0,76
И теперь: 135,62 * (- 0,76) = - 103,0712 опять округляем, получается - 103,07

2 путь:
Так и заносим в калькулятор: 135,62 * cos 139,53
На что калькулятор выдает: = - 103,172360525
Округляя, получаем: - 103,17


Итак, получилось два разных результата:
- 103,07 и - 103,17

Какой же из них правильный?

0,1 - просто смертельная погрешность для дальнейших вычислений

 

Если без шуток-прибауток, округлив в первом случае косинус угла до сотых (а это невероятно грубо) Вы и внесли эту погрешность в 0,1 градуса. Так что правильный результат второй, а если еще точнее, то -103,1774814 и не забываем про четверти!

 

Спасибо, теперь ясно..
(Добавление)
А что делать в таком случае:
d = 135,62
a = 139°32' = 139,53
r = 40°28' = 40,46

дельта Х = d * cos a = плюс минус d * cos r

дельта Х = 135,62 * cos 139,53 = плюс минус 135,62 * cos 40,46

cos 139,53 = - 103,172
cos 40,46 = 103,187

Получается вот так:

дельта Х = - 103,172 = плюс минус 103,187

Не первый раз уже с таким сталкиваюсь, и не знаю, как в таком случае выбирать правильный ответ.

Или такого в принципе быть не должно?

 

Как было сказано незабываем про четверти.
плюс или минус зависит от того в какой четверти ваше напровление или от того какой
румб (с, св, и тд.)
у вас 90<a<180 значит вторая четверть румб юго-восточный
ось Х в этой четверти имеет отрицательные значения
значит дельта Х имеезнак минус

 

Спасибо, теперь гораздо понятнее.. Про значащие цифры я ничего не знала и не слышала, и на установках этого не было - а я все понять не могла, по какому принципу надо округлять и сколько оставлять после запятой. Спасибо!

Тут вопрос не в знаках (минус я пропустила, прошу прощения, по невнимательности):
cos 139,53 = - 103,172 и cos 40,46 = - 103,187

Извиняюсь.. впредь учту.

 

Спасибо)

 

Подскажите, пожалуйста, далекому от геодезии чайнику, существуют ли программы для вычисления дуги параллели и меридиана с возможностью "ручного" ввода параметров эллипсоида? Не на бумажке ж эти формулы считать...