G5 B5 C#6 D6 E6 F#6 D6 C6 B5 A5 G5
De song begint met een eenvoudig arpeggiopatroon waarbij deze noten worden gebruikt, dat vervolgens door de hele song wordt herhaald. De coupletten en refreinen van het nummer zijn rond dit arpeggio opgebouwd, met de toevoeging van een paar extra noten om een voller geluid te creëren. Het bridgegedeelte van het nummer bevat een complexere pianomelodie, die terugleidt naar het refrein.
Het algemene gevoel van de pianopartij in "Yellow" is er een van eenvoud en schoonheid, waarbij het arpeggiopatroon een gevoel van beweging en flow creëert. Het nummer is een klassiek voorbeeld van hoe een eenvoudige pianomelodie een krachtig en gedenkwaardig nummer kan creëren.