Landon werd geboren als Eugene Maurice Orowitz in Forest Hills, New York. Zijn vader, Eli Maurice Orowitz, was een joodse kledingfabrikant, en zijn moeder, Peggy O'Neill, was een katholieke actrice en danseres. Landon had vier broers en zussen:David, Robert, Tom en Cheryl.
Landon begon met acteren op 14-jarige leeftijd en verscheen in verschillende Broadway-producties. Hij tekende bij Warner Bros. in 1956 en maakte zijn filmdebuut in de film _God Is My Partner_ (1957). Daarna speelde hij in een aantal andere films, waaronder Marjorie Morningstar (1958), The Legend of Tom Dooley (1959) en The Longest Day (1962).
In 1959 werd Landon gecast als Little Joe Cartwright in de NBC Western televisieserie Bonanza. De show was een grote hit en duurde 14 seizoenen, waardoor Landon een begrip werd. Nadat _Bonanza_ in 1973 eindigde, speelde Landon de hoofdrol in verschillende tv-films en televisieseries, waaronder _The Little House on the Prairie_ (1974–1983), _Highway to Heaven_ (1984–1989) en _Us_ (1991). .
Landon was ook een succesvol regisseur en producer. Hij regisseerde een aantal afleveringen van Bonanza en Little House on the Prairie, en regisseerde ook verschillende televisiefilms. Hij produceerde ook verschillende televisieseries, waaronder _The Love Boat_ (1977–1987), _Highway to Heaven_ en _Us_.
Landon stierf op 1 juli 1991 op 54-jarige leeftijd aan alvleesklierkanker. Hij laat zijn vrouw, Cindy Landon, en negen kinderen achter:Mark, Josh, Jason, Michael, Shawna, Christopher, Cheryl, Erin en Kelly.