Mefistófeles prossegue com uma outra canção sobre uma pulga que traz seus parentes para infestar toda uma corte real (Canção da Pulga). Repugnado com tamanha vulgaridade, Fausto exige ser levado para outro lugar. Num prado, nas margens do rio Elba, Mefistófeles dá-lhe a visão de uma bela mulher chamada Margarida. Fausto apaixona-se pela visão e chama pelo nome de Margarida. Mefistófeles promete levá-lo até ela. Juntos, com um grupo de estudantes e soldados, entram na cidade onde vive Margarida. Parte III Fausto e Mefistófeles escondem-se no quarto de Margarida. O doutor acredita que ela é o seu ideal de mulher, pura e inocente. Entra Margarida. Ela canta uma balada sobre o Rei de Tule, que se manteve tristemente fiel ao seu amor perdido. Mefistófeles conjura os espíritos para encantarem e enganarem Margarida e canta uma sarcástica serenata na frente de sua janela, vaticinando a perda da sua inocência. No momento em que os espíritos se desvanecem, entra Fausto. Margarida admite ter sonhado com ele, bem como ele com ela, e eles declaram seu amor mútuo. Neste momento, entra Mefistófeles, denunciando que a reputação de Margarida está em perigo: os vizinhos sabem da presença de um homem no quarto de Margarida e chamaram a mãe dela ao local. Depois de um apressado adeus, Fausto e Mefistófeles saem. Parte IV Fausto abandonou Margarida, no entanto a jovem ainda espera por ele ("D'amour l'ardente flamme"). Ela ouve os soldados e estudantes à distância e recorda-se da primeira noite em que Fausto apareceu na sua casa. Mas desta vez, ele não está entre a multidão. Numa paisagem cheia de florestas e cavernas, Fausto pede à natureza que cure o cansaço mundano ("Nature immense, impénétrable et fière"). Mefistófeles surge e diz que Margarida está presa. Ela matou acidentalmente a sua mãe, dando à senhora uma dose excessiva de uma poção para dormir, e será enforcada no dia seguinte. Fausto entra em pânico, mas Mefistófeles diz que Fausto pode salvá-la - se Fausto concordar em ceder sua alma. Sem pensar noutra coisa que não seja salvar a Margarida, Fausto concorda. Os dois saem a cavalgar num par de corcéis negros. Pensando estar a salvar Margarida, Fausto fica estarrecido ao ver aparições demoníacas. A paisagem torna-se cada vez mais grotesca e terrível e Fausto finalmente compreende que Mefistófeles está a levá-lo directamente para o inferno. Demónios e almas amaldiçoadas saúdam Mefistófeles numa linguagem misteriosa e infernal e dão as boas vindas a Fausto. Epílogo O inferno cai em silêncio depois da chegada de Fausto. Um coro, narra e canta sobre o "mistério do terror". Enquanto isso, Margarida é salva e é acolhida no paraíso.