O trecho extra improvisado por Bono na performance de "With Or Without You" em show do U2 no Slane Castle em 2001

Uma característica do U2 é introduzir em canções que eles tocam ao vivo, trechos de canções que eles gostam ou que tem algo haver com o ritmo ou a letra da canção tocada.
Na turnê The Joshua Tree, Bono em vez de cantar um trecho de uma canção já existente, preferiu criar um trecho como extensão para a canção "With Or Without You".
O segmento ''we'll shine like stars in the summer night/we'll shine like stars in the winter light/one heart, one hope, one love'' começou a ser introduzido no final da letra original; e se tornou a versão predileta dos fãs da banda.
No show da banda em 2001 pela turnê Elevation no Slane Castle, que virou um lançamento em vídeo da banda, além de "Shine Like Stars", Bono improvisou mais um trecho inédito na canção, onde ele declama:

Sing my song
It's what I feel
Come and sing, man
This is real
From my soul
Coming and hear
I can feel
My senses, dear

Cantando minha canção
É o que eu sinto
Venha e cante, cara
Isto é real
Da minha alma
Venha e ouça
Eu posso sentir
Meus sentidos, querida