Hij begon met het studeren van muziek in Australië onder Louis Pabst. In 1895 vertrok zijn moeder Rose Aldridge Grainger met hem naar Europa, en hij studeerde verder aan het Dr. Hoch’s Konservatorium in Frankfurt am Main. Daar kreeg hij pianoles van James Kwast. Ook Ferruccio Busoni was voor korte tijd zijn leraar. In deze tijd kwam zijn talent als experimentator naar voren in het gebruik van onregelmatige en meestal ongebruikte metra.
Als concertpianist reisde hij vanaf 1900 door Europa. Tussen 1901 en 1914 woonde hij in Londen en was vanaf 1906 bevriend met Edvard Grieg, die hem beïnvloedde. Hij raakte in deze tijd ook geïnteresseerd in het verzamelen en vastleggen van volksliederen uit het landelijke Engeland. Daarnaast begon hij ook zelf te componeren.
Aan het begin van de Eerste Wereldoorlog in 1914 ging Grainger naar de Verenigde Staten van Amerika, waar hij een verzoek indiende om burgerrechten te krijgen. Toen de Verenigde Staten in 1917 ook in de oorlog betrokken werden, ging hij als musicus naar een militaire kapel, eerst als saxofonist, later als dirigent. Met de kapel gaf hij talrijke concerten. Hij reisde uitgebreid in Noord-Amerika, Europa, Zuid-Afrika en Australië en bezocht diverse landen meerdere malen.
In 1918 werden hem de Amerikaanse burgerrechten toegekend.
Zijn pianowerk Country Gardens bracht hem ook als componist de doorbraak en werd een “hit” van toen, maar Grainger zelf zou weinig vreugde aan dit werk beleven. Toen het met zijn financiële zaken beter ging, vertrok hij met zijn moeder naar de rijke New Yorkse wijk White Plains. Maar de gezondheid van Rose Grainger ging achteruit en zij pleegde in 1922 zelfmoord.
In hetzelfde jaar reisde hij naar Denemarken om daar volksmuziek te verzamelen. Later ontstonden hiervan orkestversies die behoren tot de belangrijkste van zijn werken.
Van 1919 tot 1931 doceerde hij aan het Music-College in Chicago.
In november 1926 leerde hij de Zweedse kunstenares en dichteres Ella Ström kennen en zij verloofden zich onmiddellijk. Zij trouwden in 1928. Het huwelijksfeest was een belangrijk en opmerkelijk gebeuren in de Hollywood Bowl. Hij gaf een concert voor 20.000 toehoorders met een orkest van 126 musici en een koor, die zijn nieuwste compositie To a Nordic Princess uitvoerden.
Van 1932 tot 1933 werd hij decaan voor muziek aan de particuliere New York-universiteit. Hij zette jazz in het leerplan en trok Duke Ellington aan als docent. Het werk beviel hem echter niet, omdat hij de universiteit te formeel vond.
Vanaf 1933 woonde hij met zijn vrouw in Melbourne om daar de oprichting van het Grainger Museum voor te bereiden. Met een onderbreking voor een bezoek aan Engeland in 1937-1938 bleven ze daar tot 1940.
In dat jaar vertrokken de Graingers naar Springfield, Missouri, vanwaar hij op reis ging om in de Tweede Wereldoorlog een reeks militaire concerten uit te voeren. Maar na de oorlog ging zijn gezondheid achteruit, zijn pianistische vakbekwaamheid verminderde en zijn interesse voor klassieke muziek verflauwde.
In zijn laatste levensjaren ontwikkelde Grainger in samenwerking met Burnett Cross de Free Music Machine, een voorloper van de Synthesizer.
