Die Gründung der DTÖ geht auf eine Initiative Guido Adlers, damals Extraordinarius an der Universität Prag, zurück. Er richtete im April 1888 eine Eingabe an das Ministerium für Kultus und Unterricht, in der er die Begründung von Monumenta historiae musices vorschlug, in welcher Werke von Komponisten aus der Monarchie und dem gesamten deutschen Sprachraum veröffentlicht werden sollten. Dieser umfassende Plan konnte nicht verwirklicht werden, da die transleithanische Reichshälfte zu einer Zusammenarbeit nicht bereit war und in Deutschland zwei eigene "Denkmäler"-Editionen entstanden, die Denkmäler deutscher Tonkunst (ihr erster Band erschien 1892 und kam damit Adlers Plänen zuvor) und die Denkmäler der Tonkunst in Bayern. Hingegen kamen verschiedene Unternehmungen dem Plan Adlers zu Hilfe. Adler bearbeitete für die Internationale Musik- und Theaterausstellung 1892 deren musikalische Abteilung für Österreich-Ungarn und Deutschland. Auf seine Anregung wurden mittels Zirkulare des Ministeriums Musikbestände der Monarchie erhoben (die Kataloge sind heute noch vorhanden), was zu einer wichtigen Grundlage für die Arbeit der DTÖ wurde. Ferner wurde vom Ministerium Adlers Vorschlag aufgegriffen, Werke der komponierenden Kaiser der Barockzeit zu veröffentlichen; die beiden Bände der "Kaiserwerke" wurden so zu Vorläufern und Probestücken für die geplante Monumenta-Ausgabe. Schließlich wurden 1891 die noch gar nicht formell konstituierten Denkmäler auch für die Edition der vom Ministerium erworbenen Trienter Codices vorgesehen.

Am 3. Oktober 1893 fand die konstituierende Sitzung der neugegründeten Gesellschaft zur Herausgabe von Denkmälern der Tonkunst in Österreich statt. Adler wurde zum Leiter der Publikationen, Eduard Hanslick, der das Unternehmen vom Anfang an unterstützt hatte, zum Präsidenten gewählt. Der Leitenden Kommission gehörte unter anderem Johannes Brahms (ihm folgten als Vertreter des Musikschaffens u.a. Gustav Mahler, Richard Strauss und Joseph Marx) an. 1894 erschien der erste Band der Reihe mit Messen von Johann Joseph Fux, in der Folge mindestens zwei Bände jährlich. 1913 wurde die wissenschaftliche Zeitschrift Studien zur Musikwissenschaft. Beihefte der Denkmäler der Tonkunst in Österreich begründet. 1909 fand der von Guido Adler organisierte große Kongreß zum hundertsten Todestag Joseph Haydns statt, der zwar nicht nominell, aber faktisch stark von den DTÖ getragen wurde. 1913 wurde das zwanzigjährige Jubiläum der Denkmäler mit großem Aufwand gefeiert; am Festkonzert wirkten u.a. Arnold Rosé, Pablo Casals und Franz Schalk mit.

Das Ende der Monarchie bedeutete die Notwendigkeit einer Neuorientierung auf das nunmehrige Österreich. Die geänderten Bedingungen in der ersten Republik wirkten sich auch auf die Denkmäler aus. Die Erscheinungsdichte der Bände reduzierte sich erheblich (1893 bis 1918 erschienen 50, in der Folge bis 1938 33 Bände), die Studien zur Musikwissenschaft mußten 1933 eingestellt werden.

Nach der Annexion Österreichs durch die Nationalsozialisten bat Adler den Präsidenten der Gesellschaft Kardinal Innitzer, ihn "unter den obwaltenden Umständen" seiner Funktion als Leiter der Publikationen zu entheben. Der nationalsozialistische Stillhaltekommissar löste die Kommission überhaupt auf und setzte Alfred Orel als kommissarischen Leiter ein. Im Mai 1939 wurde das Amt des Leiters der Publikationen mit dem des Ordinarius für Musikwissenschaft - damals Robert Lach - verbunden, die Gesellschaft in Gesellschaft für ostmärkische Musikforschung umbenannt und dem Staatlichen Institut für deutsche Musikforschung eingegliedert. Nach Lachs Emeritierung noch im Jahre 1939 wurde sein Nachfolger an der Lehrkanzel Erich Schenk auch Leiter der Gesellschaft. 1942 erschien als einzige Publikation der nunmehrigen Reihe 2 des Erbe deutscher Musik, Landschaftsdenkmale der Musik, Alpen- und Donau-Reichsgaue eine Ausgabe von Wiener Lautenmusik des 18. Jahrhunderts (er wurde nach dem Krieg zunächst als Band 84 der DTÖ gezählt, 1966 jedoch durch einen neuen Band zum selben Thema ersetzt).

Nach dem Krieg setzten bereits im April 1945 Bestrebungen Schenks zur Wiedererrichtung der Gesellschaft zur Herausgabe von Denkmälern der Tonkunst in Österreich ein. Die erste offizielle Sitzung der Gesellschaft konnte aufgrund der schwierigen Lage erst am 18. März 1946 stattfinden. Die Leitung lag zunächst bei einem Ausschuß von fünf Personen unter Leitung Schenks. Am 7. Oktober 1946 fand die erste Sitzung der Leitenden Kommission statt. Erich Schenk blieb Leiter der Publikationen, zum Präsidenten wurde am 15. November 1946 Joseph Marx gewählt. 1947 begannen die Denkmäler mit Band 85 wieder zu erscheinen, für den in bewußter Anknüpfung an Adlers Beginn in Band 1 (Messen von Fux) Klavierwerke von Johann Joseph Fux gewählt wurden. 1955 lebten die Studien zur Musikwissenschaft wieder auf, im gleichen Jahr wurde die gemeinsam mit dem Musikwissenschaftlichen Institut der Universität herausgegebene Reihe Wiener musikwissenschaftliche Beiträge begründet. 1956 trat die Gesellschaft gemeinsam mit der Österreichischen Akademie der Wissenschaften als Veranstalter der Internationalen Musikwissenschaftlichen Kongresses zum Mozartjahr 1956, der größten bis dahin stattgefundenen Veranstaltung dieser Art, in Erscheinung.

1964 starb Joseph Marx, das Präsidentenamt wurde, zunächst als Zwischenlösung gedacht, mit dem des Leiters der Publikationen vereint. Nach Schenks Tod 1974 übernahm Othmar Wessely beide Ämter, gab das des Präsidenten aber 1990 an Heinrich Haerdtl ab. Sein Nachfolger wurde 2002 Maximilian Eiselsberg. Das Amt des Leiters der Publikationen übernahm nach dem Ableben Wesselys 1998 Theophil Antonicek, der es seit 2007 gemeinsam mit Martin Eybl ausübt.

Die Lage der Gesellschaft hat sich seit dem Jahre 1987 insoferne entscheidend verändert, als die bis dahin stets vom Staat gewährte jährliche Basissubvention eingestellt wurde. Dies führte zu einer existenzbedrohenden Situation, die zunächst durch persönliche Spenden von Mitgliedern der Gesellschaft wenigstens für die unumgänglichen kleinen Ausgaben überbrückt werden konnte. Gegenwärtig ist durch die Neuregelung der Verlagsvertrages mit der Akademischen Druck- und Verlagsanstalt insoferne eine Besserung eingetreten, als der Gesellschaft bescheidene Einkünfte und den Bandherausgebern Verlagshonorare zufließen. Einzelförderungen von staatlicher Seite und durch den Fonds zur Förderung der wissenschaftlichen Forschung ermöglichten die Arbeit an einzelnen Bänden. Von solchen unabhängige Projekte oder gar breit angelegte Grundlagenarbeiten im Stile Adlers sind allerdings nicht mehr möglich bzw. bleiben der Initiative von Mitarbeitern anheimgestellt.