奈良時代の『和名抄』に、「古郡（ふるごおり）の里に幸燈明神」と記される歴史ある神社です。神社の名前は昔、この土地に「ウシ」と呼ばれる神が租税をとって倉に収めており、ヤマトタケルが東征した際、その倉の跡に神社を建てたという言い伝えに由来します。
毎年9月上旬の3日間行われる例大祭は、郡内地方で行われる「郡内三大祭り」の一つとして知られています。スサノオノミコトなど、秋の実りをもたらす農耕の五神に感謝を捧げる祭で、 古くから地域住民の信仰を集めてきました。
初日は上野原の各地区から数十基の神輿が集まって町内を練り歩き、多くの見物客で賑わいます。2台の山車が繰り出し、すれ違う2日目の夕暮れ時に祭りは最高潮を迎えます。