как называется такой график работы и как по нему рассчитывать отпуск

Есть установленный график работы на будущий год. :) Такой график есть для каждого будущего месяца.:) Годовая норма выработки по установленному графику совпадает с годовой нормой часов по производственному календарю (при 40-ка часовой рабочей неделе). :)
Помесячная норма установленная графиком и норма часов для этого месяца по производственному календарю не совпадают никогда. :D
Оплата по окладу. :p Что это вообще такое?:(

График
Оплата называется - повременная по окладу, согласно табеля, по часам. Есть еще - повременно-премиальная по окладу согласно табелю по часам. Это когда есть ежемесячные премии.

См. статью 104 Трудового кодекса РФ (суммированный учет рабочего времени). В данной случае оплату по часовым тарифным ставкам организовать. Оплата отпуска - из среднего часового (пункт 13 постан.Правит.РФ № 213).