1330（元德2）年，牧之庄的领主二階堂贞藤迎来梦窗疎石，并捐赠一块宅邸而创建此寺。后来这里成为甲斐国临济禅林文化的一大据点。
寺院内北侧的惠林寺庭园据说是梦窗疎石56岁时打造的庭院。拥有禅宗庭园的形式，后来给在甲斐国建造的寺院庭园带来了很大的影响。
快川和尚入寺修行后，此寺成为武田信玄的菩提寺，在举行信玄葬礼后的1582（天正10）年，其子胜赖挥刀自尽，武田氏灭亡，惠林寺被织田信长烧毁。
在寺院地块内还设有武田信玄公的宝物馆。每年4月12日逢信玄公的忌辰，当地会举办名为“信玄公”的信玄公祭典。