Ab 1901 war er in Wien am Konservatorium der Gesellschaft der Musikfreunde tätig, wo er die Meisterklasse für Klavier leitete. Diese Tätigkeit übte er mit Unterbrechungen bis zu seinem Tode aus. Daneben machte er seit 1880er bis Mitte 1930er Jahre ausgedehnte Konzerttourneen, die ihn durch ganz Europa und bis in die Vereinigten Staaten führten und ihm zu Weltgeltung verhalfen.
Er edierte Werke von Chopin und Liszt, aber auch Scarlatti, Schumann und Brahms. 1917 wurde Sauer seiner Erfolge wegen geadelt.
Sein kompositorisches Schaffen umfasst Klavierkonzerte, Klaviersonaten, Konzertetüden, Klavierstücke und Lieder. Er war außerdem Herausgeber klavierpädagogischer Literatur und schrieb 1900 eine Autobiografie. Er gilt als einer der letzten Repräsentanten der Schule Franz Liszts.
Sauer war der Vater des Juristen Emil von Sauer. Er war zweimal verheiratet. Mit seiner zweiten Frau, der Konzertpianistin Angelica Morales (1911–1996), hatte er zwei weitere Söhne, Julian und Franz.<ref>Angelica Morales.Bach Cantatas Website (englisch).</ref> In Hamburg-Bahrenfeld ist die Von-Sauer-Straße nach ihm benannt, in Wien seit 1952 die Sauergasse.
Meine Welt. Bilder aus dem Geheimfache meiner Kunst und meines Lebens. Stuttgart 1901 (Autobiografie).
Diese Schrift wurde 2014 in der Reihe „Publikationen historischer Dokumente“ von Jens-Hagen Wegner neu herausgegeben und mit einem Vor- und Nachwort versehen.