Родился 17 августа 1815 года в Санкт-Петербурге в семье генерала-лейтенанта П. И. Балабина. Мать Евгения, Варвара Осиповна Пари, бельгийка по происхождению, была высокообразована, увлекалась литературой. Её домашний кружок посещали многие видные литераторы столицы.Евгений Балабин получил прекрасное образование, он воспитывался в Благородном пансионе при Санкт-Петербургском университете.
В пансионе впервые проявились музыкальные способности юноши. Был пажем цесаревича Александра (будущего Александра II). После окончания образования поступил на государственную службу.
В 1852 году во Франции перешёл в Католическую церковь. Отчасти этому способствовал переход в католичество и вступление в Общество Иисуса его близкого университетского друга Юлиана Астромова. 27 июня 1852 года Балабин сам поступил в иезуитский новициат.
В 1853 году в России был признан виновным в «отпадении от православия» и лишён всех имущественных прав. Въезд в Россию ему был запрещён.После окончания новициата вступил в Общество Иисуса.
В 1854—1859 годах обучался в семинарии в Валь-пре-Ле-Пюи.
С 1855 года активный помощник князя И. С. Гагарина, участвовал в организации парижского Кирилло-Мефодиевского общества.
В 1857 году рукоположен в священники. Был музыкальным руководителем и наставником нескольких семинарий и иезуитских колледжей, занимался исследованиями в области церковной музыки.
С 1888 года работал в Каирской коллегии Ордена иезуитов. Умер 30 января 1895 года в Каире.