Die einsam am Berghang gelegene Ölbergkapelle geht nachweislich auf das 17. Jahrhundert zurück, wohl aus der Zeit des Dreißigjährigen Krieges, als die Menschen in ihren Ängsten und Nöten Zuflucht bei Christus suchten, der selbst am Ölberg die Angst durchlitten, in der Passion das schwere Kreuz getragen und schließlich durch seine Auferstehung überwunden hat. Legenden erzählen, dass an dieser Stelle bereits der Heilige Rupert zu Anfang des 8. Jhd. eine erste Kultstätte errichten ließ.
Nach verschiedenen Anbauten fand das Kirchlein 1734 die Gestalt aus eigentlich vier Kapellen, wie wir sie heute noch vorfinden.
Der Erhalt der Kapelle ist untrennbar mit der Person des „Müllner Peter von Sachrang“, Peter Huber, verbunden, der 1826 eine erste Restaurierung veranlasste. Als das Heiligtum am 24. September 1827 neu geweiht wurde, strömten 5.000 Tiroler und Bayern als Pilger herbei.
Seit den frühen 1970er-Jahren fördert der „Freundes-kreis Müllner-Peter von Sachrang e.V.“ die Ölbergkapelle und rief 1972 die Grenzwallfahrt wieder ins Leben, die in den besten Zeiten bis zu 13.000 Besucher zählte. Bis heute organisiert der Freundeskreis die Ölbergwallfahrt. 2018 regte deren Vorsitzender Dieter Höpfner an, den Wallfahrtscharakter wieder neu zu stärken, was mit der Fußwallfahrt gerne aufgegriffen wird.