Marianne Faithfull è stata liquidata per molto tempo come una groupie con delle velleità di artista. Essendo stata la fidanzata di Mick Jagger e uno dei volti più noti della Swinging London degli anni Sessanta, la sua carriera musicale non ha mai ricevuto il giusto merito.
Una sera del 1965 Marianne si trovò al Savoy Hotel di Londra insieme a Bob Dylan, un musicista che ha cambiato il corso della musica e che già a quel tempo era riverito come un indissolubile punto di riferimento. La Faithfull ha raccontato l'incontro con il musicista statunitense nella sua autobiografia. "Ho incontrato Bob per la prima volta al Savoy nel 1965. C'è una clip di me e Joan Baez che cantiamo "As Tears Go By" nella camera d'albergo mentre Bob martellava su una macchina da scrivere. Più tardi, quando l'ho respinto, mi disse che era una poesia su di me, ma l'avrebbe strappata. Ero davvvero arrabbiata, ma l’abbiamo superata e siamo amici da 56 anni. Lui mi piace davvero.”
Nonostante avesse rifiutato le sue avances, Bob Dylan rimase un artista che lei non solo amava ma ammirava profondamente. “Non avevo mai visto una persona come Bob Dylan. Mai nei miei sogni più sfrenati avrei potuto immaginare qualcuno come Bob, il suo cervello. Mi fece sentire l'album “Bringing It All Back Home”. Fu semplicemente fantastico. Io lo adoravo."
Quando ascoltò "It's All Over Now, Baby Blue" per la prima volta. La canzone le entrò immediatamente sotto pelle. Raccontò al quotidiano The Guardian: "Penso che 'It's All Over Now, Baby Blue' parli di quei momenti della vita in cui devi solo dire: 'OK, ci abbiamo provato, non ha funzionato', ma è un modo molto più elegante di dirlo. È molto affettuoso, ma ovviamente è tutto finito. Non so davvero perché mi piace così tanto, ma mi sono trovata in molte situazioni in cui mi sarebbe piaciuto fermare il tempo e avere una band che suonava e cantava quella canzone alla gente. L'ho incisa due volte. La seconda volta, avevo avuto più esperienze e l’ho sentita davvero.”
Tra le cover di Bob Dylan registrate da Marianne Faithfull oltre a "It's All Over Now, Baby Blue" si possono citare anche "Visions Of Johanna" e "I'll Keep It With Mine" .