O hotel foi fundado em 1876 como maison meublée no local do demolido Teatro am Kärntnertor pelo restaurador e k.u.k. purveyor à corte Eduard Sacher (1843-1892). Seu pai, o confeiteiro Franz Sacher (1816-1907), tornou-se famoso pelo seu Sachertorte, que ele supostamente criou para uma recepção dada pelo chanceler austríaco Klemens von Metternich, em 1832. Eduard Sacher fez um estágio na patisserie Demel e em 1873 abriu seu primeiro restaurante na Kärntner Straße.
Em 1880, ele casou-se com Anna Sacher née Fuchs (1859-1930), que se tornou diretora administrativa após sua morte. Ela rapidamente ganhou reputação tanto por suas habilidades comerciais quanto por sua excentricidade, nunca sendo vista sem seus Bulldogs franceses e um charuto. Sob sua gestão, o Hotel Sacher tornou-se um dos melhores hotéis do mundo, onde a aristocracia e os diplomatas se reuniam. Entretanto, após a Primeira Guerra Mundial, Anna Sacher manteve a reputação de classe alta do hotel e negou o serviço aos hóspedes de descendência não aristocrática enquanto concedia generoso crédito aos aristocratas empobrecidos. A sua gerência levou o negócio a problemas financeiros, e eventualmente à falência e a uma mudança de propriedade nos anos 30.
Em 1934, o negócio hoteleiro foi assumido pela família Gürtler sob o nome da empresa “Eduard Sacher GmbH & Co OHG”, e o edifício foi amplamente renovado. Após o fim da Segunda Guerra Mundial, a Áustria ocupada pelos Aliados, como a Alemanha, foi dividida em quatro zonas pelas potências vitoriosas. Viena, tal como Berlim, também foi subdividida em quatro zonas. Durante a ocupação, os britânicos usaram o pouco danificado Hotel Sacher como sede e aparece no filme de Carol Reed O Terceiro Homem, como o roteirista Graham Greene era um freqüentador regular do bar do hotel enquanto fazia pesquisas em Viena. Em 4 de agosto de 1947, duas bombas de mala explodiram no porão do hotel. O grupo terrorista Irgun reivindicou a responsabilidade pelo atentado.
Desde 1989, a família Gürtler também é proprietária do antigo hotel Österreichischer Hof em Salzburgo, que reabriu como o Hotel Sacher Salzburg. O Hotel Sacher em Viena acrescentou outro andar com uma espaçosa área de spa no seu telhado em 2005/06, o que causou um alvoroço com os preservacionistas históricos. O Sachertorte ainda é servido no restaurante do hotel depois de décadas de litígio com a pastelaria Demel terem chegado ao fim.