Antiguamente la Iglesia tenia la costumbre de celebrar el aniversario de la muerte de un mártir en el lugar del martirio. Lo normal era que aquellos grupos de mártires que morían el mismo día compartieran esa fecha de celebración. Pero durante la persecución realizada por Diocleciano, el número de mártires llego a ser tan elevado, que era imposible asignar un día a cada uno de ellos. Por lo tanto la Iglesia decidió hacer un homenaje a todos ellos en un día. El primer ejemplo de esto se encuentra en Antioquía, en el domingo previo a Pentecostés.
Inicialmente, solo los mártires y san Juan Bautista eran conmemorados en una fecha especial. Pero con el paso de los años otros santos se fueron introduciendo en el calendario; aún, a principios de 411 había en el calendario caldeo de los cristianos orientales una «Commemoratio Confessorum» para el viernes. En la Iglesia de Occidente, el Papa Bonifacio IV, entre los años 609 y 610, dedicó el Panteón de Roma a la Santísima Virgen y a todos los mártires, estableciendo una fecha conmemorativa.
Más tarde, el Papa Gregorio III (731-741) consagró una capilla en la Basílica de San Pedro en honor a todos los santos y designó el 1 de noviembre como la fecha de celebración. Finalmente, fue el Papa Gregorio IV quien, a mediados del siglo IX, amplió la celebración del 1 de noviembre a toda la Iglesia.