Franz Xaver Gruber wird 1787 in Hochburg als dritter Sohn eines armen Seilmachers geboren. Als Kind entwickelt er bereits großes Interesse am Orgelspiel, das er in der Pfarrkirche hört. Er muss allerdings schon in jungen Jahren als Seilmacher arbeiten. Im Alter von 18 Jahren erhä er dennoch die Möglichkeit, ein Orgelstudium aufzunehmen. Daran anschliessend macht er eine Lehrerausbildung. Er wird als Lehrer in Arnsdorf angestellt, außerdem bekommt er eine Stelle als Organist in der Gemeinde Sankt Nikolaus in Oberndorf. Er bleibt bis 1829 Lehrer in Arnsdorf und auch Organist in Oberndorf.
Danach wird er Lehrer in Berndorf.

1833 wird ihm die Stelle als Chorleiter und Organist in der Dekanatskirche von Hallein angeboten. Von diesem Augenblick an kann er sich ganz der Musik widmen und schreibt noch so manches Musikstück. Er stirbt allseits geehrt und beliebt im Jahre 1863. Sein Grab in unmittelbarer Nähe der Dekanatskirche von Hallein wird auch heute noch in Ehren gehalten.