当寺の開創は養老二年（718）。行基菩薩が日川渓谷の岩上で、霊夢により感得された像 ～ 手に葡萄を持った薬師如来と日光・月光菩薩の薬師三尊 ～ を刻み安置して開かれたと伝えられます。

奈良時代、聖武天皇の御代には鎮護国家の勅額（ちょくがく）と寺山号を賜り、五十二堂三千坊の隆盛をみました。

往持の堂宇は平安初期に焼失しましたが、天禄二年（971）に三枝守国が再建して以来、平清盛、源頼朝の寺領寄進や堂塔修復、北条貞時による薬師堂再建立、仏師・蓮慶作の日光・月光菩薩や十二神将の制作、武田信春の厨子寄進等々。時の為政者と大衆の深い信奉のもとに歴史を重ねております。

現在の薬師堂は、昭和二十九年（1954）の根本的な大解体修理で昔のありさまに復され、その翌年、厨子と共に国宝となりました。

天下統一を競った武田信玄亡き後、勝頼は織田徳川の連合軍の近代装備と物量の前に敗退し、天正十年（1582）3月3日、郡内の岩殿城で再興を図ろうと韮崎の新府城を出発し、大善寺で戦勝を祈願して一夜を明かしました。

しかし、武田家再興がかなわないと見た家臣の大半は夜半に離散し、また、岩殿城主小山田信茂の裏切りに合い、勝頼主従は天目山を目指しましたが、織田徳川の連合軍に行く手を阻まれ、ついに3月11日、勝頼以下一族と家臣は自決し、新羅三郎義光以来五百年続いた甲斐源氏も滅亡しました。

その一部始終を目撃した理慶尼が記した「理慶尼記」は「武田滅亡記」ともいわれ、尼の住んでいたこの大善寺に保管されています。

勝頼の家臣たちは、勝頼を最後まで裏切ることなく守り、戦死しましたが、その子供たちは後に徳川家康に重用され、江戸時代には各地の城主に任命されました。勝頼の「宿」となった薬師堂にはその子供たちから寄進された文殊菩薩、毘沙門天が安置されています。