Алексей Горохов окончил Московскую консерваторию как скрипач по классу Льва Цейтлина и Абрама Ямпольского в 1949 году. Кроме того он также окончил консерваторию как музыковед. После окончания консерватории Горохов принял участие в ряде международных конкурсов и стал лауреатом конкурсов Прага (1949) 1-я премия;Лауреат 2-го Международного фестиваля молодежи Будапешт (1949) 3-я премия; Лейпциг конкурс имени Баха (1950) 2-я премия ;Брюссель конкурс имени королевы Елизаветы (1951) 7-я премия.
В этот период он гастролировал по Советскому Союзу и в различных странах Европы.
В 1957 году Алексей Горохов переехал в Киев, где стал преподавать в Киевской консерватории.
Он преподавал в консерватории до конца своей жизни. Среди учеников Горохова скрипач и дирижёр Игорь Андриевский, солист национальной филармонии Украины, заслуженный артист Украины Герман Сафонов.За свою более чем пятидесятилетнюю исполнительскую карьеру Горохов сделал большое количество аудиозаписей.
В его обширной дискографии выделяется запись цикла всех шести скрипичных концертов Никколо Паганини.
До Горохова все концерты Паганини записал лишь итальянский скрипач Сальваторе Аккардо.Алексею Горохову посвящён ряд произведений украинских композиторов, в том числе Андрея Штогаренко, Виталия Кирейко и Николай Дремлюги.