Bono explicou que a canção "Dirty Day" é "exatamente como ela aconteceu": a maior parte de um instrumental estrondo sônico, composta principalmente de riffs e ritmos improvisados no estúdio.
A canção foi escrita sobre um personagem que deixa sua família e retorna anos mais tarde, para encontrar o filho que abandonou.
"Iggy Pop foi muito mais uma influência pela maneira como ele fazia canções nas performances", explica. "Portanto, este é realmente o U2 em seu estado mais bruto. No momento eu estou brincando com a idéia de algo que fica piscando na minha frente quando eu ouço a música, a imagem de um pai dando conselhos surrealistas para seu filho. Eu também vejo Charles Bukowski na minha cabeça e o tipo de conselho que ele dá, como "sempre dê um nome falso!" Mas qualquer que seja a letra que eu finalmente coloque nela, a música me parece muito triste. O que eu estou dizendo nela é "Faça melhor, filho." A sensação que tenho é que o pai tenha fodido tudo, ou algo assim. Então, novamente, pode acabar sendo sobre Gorbachev! Mas o que você está ouvindo não é a base, se é o que provavelmente vai se tornar uma música e, o processo criativo é obviamente muito ditado pela atmosfera da banda originalmente enquanto improvisa. Isso é o que vai ditar o tipo de letra que a canção finalmente tem."
Em suas performances ao vivo na turnê ZooTV, a música inclui um solo de The Edge, que não foi gravado originalmente no álbum.