Durante a gravação do 'All That You Can't Leave Behind', o U2 fez uma viagem para o sul da França. Larry tem uma casa lá e o clima é agradável. Além disso, sempre ajuda sair um pouco de Dublin, e ficar longe de todas as dificuldades e pressões associadas. "O cenário de luz vermelha, onde você está o tempo todo, às vezes é difícil", diz Edge. "Você tem que ser capaz de ignorar o relógio se você quer chegar em algum lugar. E então, ir para a França era apenas uma ótima maneira de conseguir isso, em um momento quando, na verdade, o tempo foi passando e nós estávamos chegando perto do prazo."
"Summer Rain" foi escrita lá. Um b-side de "Beautiful Day". É uma faixa acústica suave em tom menor, que ressoa da década de 1960.
Bono, medita sobre como ele se perdeu na chuva de verão: "você pode ver as nuvens rolando sobre Provence".
A Provença (Provence, em francês) é uma denominação geográfica para um antigo condado (transformado em 1481 em província real francesa) e que corresponde hoje a uma grande parte da região administrativa francesa de Provença-Alpes-Côte d'Azur. A Provença situa-se no sudeste da França e estende-se desde a margem esquerda do Ródano até a margem direita do Var, onde limita com o antigo condado de Nice, na margem esquerda do rio. É banhada pelo Mediterrâneo.
"Eu amo essa música", confessou The Edge. "Ela só não tinha muito a ver com as outras músicas do disco. Às vezes, deixar uma canção dessa como b-side dói, porque você sabe que tem algo nela. Mas é ótimo para nossos fãs ter uma melodia assim como b-side, e para nós é um prazer ter lançado ela de alguma maneira."