Klosteris dibināts 11. gadsimtā. 12. gadsimtā šeit nodibinājās Melkas abatijas ģimnāzija, slavu ieguva arī klostera bibliotēka un skriptorijs. Mūsdienu barokālo izskatu klosteris ieguva no 1702. līdz 1736. gadam, kad to pārbūvēja pēc Jākoba Prandtauera projekta. Klostera slavas dēļ tas netika sekularizēts imperatora Jozefa II reliģisko reformu laikā. 1974. gadā klosteris cieta ugunsgrēkā. Melkas klosterī apglabāts Sv. Kolomans, kā arī Austrijas pirmās dinastijas Bābenbergu pārstāvji.