The Edge teve dificuldades para tocar ao vivo a canção "When I Look At The World"

"When I Look At The World" é uma canção do U2 sobre a fé de uma pessoa sendo incomodada por uma tragédia. Ela foi descrita por Bono como sendo contada "do ponto de vista de alguém que está tendo uma crise de fé olhando para alguém que construiu a sua casa sobre uma rocha". Também foi descrita como sendo sobre o compromisso de Ali Hewson com Chernobyl e as vítimas da tragédia.
A guitarra, bateria e baixo da versão original foram gravadas durante um curto espaço de tempo durante as sessões para 'All That You Can't Leave Behind', e no momento em que a gravação do álbum foi finalizada, The Edge percebeu que a música havia sido gravada tão rapidamente, que ele não conseguia se lembrar de como tocá-la. Este foi um dos motivos da canção ter sido uma das três únicas do álbum que nunca foram tocadas completas ao vivo pelo U2 até hoje. As outras foram "Peace On Earth" e "Grace".