После мученической кончины святителя Филиппа († 23 декабря 1569 года) тело его было погребено в Отроче монастыре, в Твери. Иноки Соловецкой обители, где он прежде был игуменом, испросили в 1591 году позволение перенести его мощи в свой монастырь. Многострадальное нетленное тело было положено в могилу, приготовленную епископом Филиппом для себя еще при жизни, под папертью храма преподобных Зосимы и Савватия Соловецких, около гроба старца Ионы (Шамина), любимого наставника его в монашеских подвигах.

29 апреля 1646 года игумену Соловецкой обители Илии послана была грамота Патриарха Иосифа о торжественном открытии мощей святителя и чудотворца Филиппа. 31 мая мощи переложили в новую раку и поставили в Преображенском соборе.

В 1652 году Никон, тогда еще митрополит Новгородский, предложил перенести в Москву мощи трех святителей-мучеников: митрополита Филиппа, Патриархов Иова и Ермогена. По благословению Патриарха Иосифа митрополит Никон отправился в 1652 году в Соловки за мощами святителя Филиппа и торжественно перенес их в Москву. В руки святого была вложена покаянная грамота царя Алексея Михайловича, в которой он молил о прощении грехов своего прадеда Иоанна Грозного, «склоняя» свою власть перед властью церковной.

На месте встречи мощей святителя Филиппа московским духовенством и народом был воздвигнут крест, от которого получила свое название Крестовская застава в Москве (у Рижского вокзала).