Перед Херувимской песнью открываются царские врата, диакон совершает каждение алтаря, иконостаса и молящихся (малое каждение). Священник в это время стоит перед престолом и читает особую тайную священническую молитву. Диакон, завершив каждение, встаёт рядом со священником, и они вместе вполголоса (так, что молящимся обычно бывает не слышно), обратившись лицом к иконе Христа на Горнем месте, священник, воздев руки кверху, а диакон — подняв кверху орарь, как при произношении ектений, читают Херувимскую песнь, причём священник читает первую часть её, а диакон — вторую. После этого священник с диаконом целуют престол, отходят к жертвеннику, берут с него Святые Дары и за свещеносцем выходят из Алтаря северными пономарскими вратами для поминовения правящих архиереев и всех православных христиан.
Во время пения второй части Херувимской песни священник с диаконом возвращаются в алтарь через Царские врата со словами «Священство (диаконство) твое да помянет Господь Бог во Царствии Своем всегда ныне и присно и во веки веков. Аминь». Священник (архиерей) ставит сначала потир на престол (точнее — на антиминс), затем, взяв у диакона дискос, ставит его рядом слева от потира. Со Святых Даров снимаются покровцы и возлагается возду́х, после чего священник кадит Святые Дары, тихо читая тропари Великой Субботы и стихи 50-го псалма. Царские врата закрываются и завеса задёргивается.
Великий вход во время Херувимской песни символизирует добровольное шествие Христа на крестные страдания и смерть.
Херувимская песнь — одно из самых красочных священнодействий. Многие русские композиторы сочинили этому песнопению разные мелодии и записали их ноты.
Херувимская песнь поётся на литургии Иоанна Златоуста и Василия Великого (кроме дней Великого Четверга и Великой Субботы).В Великий Четверг и в Великую Субботу, а также на литургии Преждеосвященных Даров существует точно такой же чин, только с другими песнопениями.
Включение данной молитвы в чин литургии относят к 573 году.