據稱為奈良時代的高僧行基所創設的寺廟。由於從境內巨石中湧出泉水，因而被稱為石水寺，但中世紀後就改名為積翠寺。
相傳武田信虎夫人於1521（大永元）年為躲避戰亂而來此生下武田信玄。境內留有產湯水井和產湯天神，正殿左側的不動堂內供奉著不動尊和武田信玄像。後來信玄在此寺舉行了和漢連句同好會的記錄也保留了下來。