Hotellet blev grundlagt i 1876 som et maison meublée på stedet for det nedrevne Theater am Kärntnertor af restauratøren og k.u.k.-leverandør ved hoffet Eduard Sacher (1843-1892). Hans far, konditor Franz Sacher (1816-1907), var blevet berømt for sin Sachertorte, som han angiveligt skabte til en reception, som den østrigske statskansler Klemens von Metternich holdt i 1832. Eduard Sacher kom i lære hos konditoriet Demel og åbnede i 1873 sin første restaurant på Kärntner Straße.
I 1880 blev han gift med Anna Sacher, født Fuchs (1859-1930), som blev direktør efter hans død. Hun fik hurtigt et ry for både sine kommercielle evner og sin excentricitet, idet hun aldrig blev set uden sine franske bulldogs og en cigar. Under hendes ledelse blev Hotel Sacher et af de fineste hoteller i verden, hvor aristokratiet og diplomater mødtes. Efter Første Verdenskrig opretholdt Anna Sacher imidlertid hotellets overklasses ry og nægtede service til gæster af ikke-aristokratisk afstamning, mens hun ydede generøs kredit til fattige aristokrater. Hendes ledelse førte forretningen ind i økonomiske problemer og til sidst til konkurs og et ejerskifte i 1930’erne.
I 1934 blev hotelvirksomheden overtaget af familien Gürtler under firmanavnet “Eduard Sacher GmbH & Co OHG”, og bygningen blev gennemgribende renoveret. Efter afslutningen af Anden Verdenskrig blev det af de allierede besatte Østrig ligesom Tyskland af sejrsmagterne inddelt i fire zoner. Wien blev ligesom Berlin også opdelt i fire zoner. Under besættelsen brugte briterne det svært beskadigede Hotel Sacher som hovedkvarter, og det optræder i Carol Reeds film Den tredje mand, da manuskriptforfatter Graham Greene var fast gæst i hotelbaren, mens han lavede research i Wien. Den 4. august 1947 eksploderede to kuffertbomber i hotellets kælder. Terrorgruppen Irgun påtog sig ansvaret for bombeattentatet.
Siden 1989 har Gürtler-familien også ejet det tidligere Österreichischer Hof-hotel i Salzburg, som genåbnede som Hotel Sacher Salzburg. Hotel Sacher i Wien tilføjede i 2005/06 endnu en etage med et rummeligt spa-område på taget, hvilket vakte opsigt hos historisk bevaringsinteresserede. Sachertorte serveres stadig i hotellets restaurant, efter at årtiers retssager med konditoriet Demel blev bragt til ophør.