Le Café Museum a été établi dans un bâtiment conçu en 1872 par Otto Thienemann. Ludwig Frisch, qui a ouvert le café en 1899, a choisi le nom faisant référence au Café zum Museum, situé à côté du Kunsthistorisches Museum.
L'ameublement du café a été influencé par le style simple et sobre, qui s'est exprimé avec des chaises en bois courbé fabriquées par la firme Gebrüder Thonet. Compte tenu de cela, Ludwig Hevesi a créé le surnom de Café Nihilismus (nihilisme de café) pour le café. Même la façade est possède un style très simple, décorée des lettres dorées "Café Museum" sur un fond blanc.
Au début des années 1930, l'architecte Josef Zotti, élève de Josef Hoffmann, redessine le café. Il installé des canapés en demi-cercle avec du cuir rouge le long des murs. Il créé une atmosphère de salon qui contraste avec la conception antérieure. La rénovation de 2003, qui a reconstruit le design original de Loos,a été critiquée pour son manque d'authenticité et son mobilier inconfortable. Fin 2009, le Café Museum a été fermé jusqu'à ce que son exploitation soit reprise par Irmgard et Berndt Querfeld à l'été 2010 et ne conserve plus l'intérieur conçu par Adolf Loos