Вальтер Андерсон родился в Минске в немецко-балтийской семье (его братьями были статистик Оскар Андерсон и астрофизик Вильгельм Андерсон). Вырос в Казани, где его отец Николай Андерсон был профессором финно-угорских языков. После окончания гимназии он начал учёбу на историко-филологическом факультете Казанского университета.
В 1909 году получил стипендию на изучение западноевропейской истории литературы и продолжил обучение в Санкт-Петербургском университете где в 1911 году получил степень магистра.
В 1912 году Андерсон стал приват-доцентом Казанского университета, преподавал историю литературы Западной Европы, был лектором итальянского языка.
В 1918 году он получил докторскую степень за свою работу по истории литературы «Император и аббат: история одного народного анекдота» .
В том же году стал профессором Казанского университета, но из-за начавшейся гражданской войны он не успел поработать на этой должности.
В июле 1918 года он переехал в занятый немецкими войсками Минск. Там он на протяжении двух лет был профессором Педагогического университета.
В 1920 году эмигрировал в Эстонию.
С 1920 по 1939 год был профессором фольклористики Тартуского университета, где читал свои лекции как на немецком, так и на эстонском языках.
Он отвечал за развитие этнографических исследований в странах Балтии. Начиная с 1920 года Андерсон был действительным членом Эстонского Учёного Общества, а в 1928—1929 годах являлся его президентом.
В 1930 году стал почётным членом общества.
В качестве признания его заслуг в 1936 году он стал членом-корреспондентом Прусской академии наук.
Он также был членом-корреспондентом Общества финской литературы (с 1926 года). Как и многие другие балтийские немцы, германо-балтов в октябре 1939 года он переехал из Эстонии в Германию, где с 1940 года до начала 1945 года работал в Кёнигсбергском университете.
С декабря 1945 года преподавал Вальтер Андерсон преподавал в качестве приглашённого профессора в Кильском университете.
В 1962 году скончался в городе Киль от последствий ДТП.