После учета нелинейности необходимо проинтерполировать
значения измерений фона неба на моменты измерений звезд и
вычесть отсчеты на фон из отсчетов на звезды . Величина
В основе большинства способов учета атмосферной экстинкции
лежит формула Бугера.
Воздушная масса в простейшем случае принимается равной секансу зенитного расстояния звезды. Поскольку слои земной атмосферы непараллельны, существует сложная зависимость температуры с высотой, а луч света при прохождении через атмосферу отклоняется от прямой из-за рефракции, постольку имеются отклонения от закона секанса. В предельном случае, на математическом горизонте, не определен, тогда как воздушная масса имеет вполне определенное значение.
Подробные расчеты значений воздушной массы для различных
зенитных расстояний были выполнены А.Бемпорадом в 1904 году.
Таблицы Бемпорада в виде, достаточном для использования,
воспроизведены в первом томе старого (1951г. издания)
Пулковского курса. Когда в практику стали входить
электронно-вычислительные машины, таблицы воздушных масс были
представлены полиномами. Таких полиномиальных представлений
существует несколько. Один из наиболее употребительных полиномов
имеет следующий вид