Родился в семье шотландского морского офицера Сэмюэля Грейга, перешедшего на российскую службу из английского флота в чине капитана 1 ранга.
В год рождения сына (1775) его отец был командующим Кронштадтским портом.При крещении Алексея императрица и граф Алексей Орлов-Чесменский были его крестными родителями.
В уважение заслуг отца и с верой, что сын продолжит его дело, Екатерина II пожаловала младенца чином мичмана.
В 1785 году Грейг был отправлен в Англию изучать морское дело.
В декабре того же года произведён в лейтенанты.
В 1788 году вернулся на родину, и 19 мая был назначен на линейный корабль «Мстислав» . 6 июля участвовал в Гогландском сражении, в котором русским флотом командовал его отец.Императрица, продолжая покровительствовать над детьми Грейга, произвела юношу в капитан-лейтенанты. По завещанию умершего Грейга-старшего, осенью 1789 года Алексей, вместе с младшим братом Карлом, для дальнейшего прохождения морской практики вновь отправился в Англию.
В период с 1789 по 1791 годы братья совершили ряд плаваний в Индию и Китай на судах Ост-Индской компании.
В 1791 году Алексей вернулся в Россию, однако спустя год вновь был отправлен в Англию.
В ходе третьей заграничной поездки он служил волонтёром на британских военных кораблях, плавающих в Средиземном море. Участвовал в сражениях с французскими и испанскими судами.
В апреле 1796 года вернулся в Россию. Имея отличные рекомендации командиров Британского флота, 17 декабря был произведён императором Павлом I в капитаны 2-го ранга и назначен командиром фрегата «Архангел Михаил» .
В 1798—1800 годах участвовал в войне России против Франции. Грейг командовал 64-пушечным линейным кораблём «Ретвизан» и крейсировал с союзной эскадрой в Северном море у острова Тексель. 1 января 1799 года был произведён в капитаны 1-го ранга. Участвовал в высадке десанта в Голландии, во взятии крепости Гельдерн и захвате голландских кораблей. Награждён орденом Св. Анны 2-й степени.26 ноября 1802 года Грейг, за проведение 18 полугодовых морских кампаний был награждён орденом св. Георгия 4-й степени (№ 1406 по кавалерскому списку Григоровича — Степанова), а 9 января 1803 года произведён в чин капитан-командора.
В 1802 году Грейг был привлечен к работе «Комитета по исправлению флота» — созданного по инициативе Александра I, который считал морские дела для России второстепенными, 27-летний Алексей Самуилович являлся единственным капитаном 1-го ранга среди шести адмиралов, составлявших комитет. Не соглашаясь с выводами комитета, он отказался подписываться под разработанными предложениями.
В 1804 году Грейг добился назначения на действующий военный флот и возглавил переход четырёх кораблей из Кронштадта в Средиземноморье, к военно-морской базе на острове Корфу, завоёванной Ушаковым в 1799 году.«Истребление турецких кораблей отрядом контр-адмирала Грейга» картина В. Б. БроневскогоПамятник адмиралу А. С. Грейгу в Николаеве (1873 г.). Скульпторы М. О. Микешин и А. М. ОпекушинВскоре став младшим флагманом у Д. Н. Сенявина и получив 27 декабря 1805 года чин контр-адмирала, Грейг участвовал практически во всех боевых действиях русского флота в период Адриатической экспедиции 1805—1807 годов и Второй Архипелагской экспедиции 1807 года. Вначале он успешно защитил Республику Семи Островов на Ионических острововах от французов, а с началом русско-турецкой войны 1806—1812 годов перешёл с Сенявиным в Эгейское море для блокады Дарданелл. 10 марта 1807 года Грейг руководил десантом при захвате острова Тенедос вблизи Дарданелл. Затем участвовал в сражении в самом проливе, завершившемся успехом русского флота. 19 июня в Афонском сражении Сенявин поручил Грейгу, державшему флаг на «Ретвизане» , возглавить группу кораблей, атаковавших авангард турецкого флота (другой такой группой командовал сам флагман). После жаркого боя и отступления турок Грейг с кораблями «Ретвизан» , «Сильный» , «Уриил» и «Св. Елена» был послан преследовать противника и вынудил экипажи трех отставших турецких кораблей выброситься на мель и сжечь свои суда. 18 сентября Грейг был награждён орденом Св. Анны 1-й степени.После заключения с Наполеоном Тильзитского мира было заключено перемирие и с Турцией. 19 сентября 1807 года, после передачи Ионических островов Франции и возвращения Тенедоса Турции, Сенявин повёл свою эскадру обратно в Россию. 30 октября эскадра Сенявина была блокирована в Лиссабоне английской эскадрой. 23 августа 1808 года Сенявин и английский адмирал Коттон подписали конвенцию, по условиям которой русская эскадра должна была отправиться в Англию и находиться там до заключения мира между Англией и Россией, после чего возвратиться в Россию. 31 августа эскадра Сенявина под русским флагом вышла из Лиссабона и 27 сентября прибыла на портсмутский рейд. 5 августа 1809 года русские команды вышли из Портсмута и 9 сентября прибыли в Ригу.
В связи с обострением англо-русских отношений, Грейг, вернувшись в Россию, был удалён от активной военно-морской деятельности. Жил в Москве.
С началом Отечественной войны 1812 года был направлен в ставку главнокомандующего Черноморским флотом и Молдавской армией адмирала Чичагова, по приказу которого отправился дипломатическими поручениями в Стамбул, на Мальту и Сицилию для привлечения к России союзников в войне с Наполеоном.
В 1813 году, с началом Заграничного похода русской армии, опытный моряк был назначен командиром флотилии судов, осуществлявших морскую блокаду Данцига. За свои успешные действия удостоен 4 сентября того же года чина вице-адмирала и награждён орденом Св. Владимира 2-й степени.
В марте 1816 года Грейг получил назначение на должность главнокомандующего Черноморского флота, одновременно — военного губернатора Севастополя и Николаева. Находясь в этой должности до 1833 года, многое сделал для восстановления пришедшего в упадок флота. Заботился об увеличении числа кораблей и усовершенствовании их конструкции, участвовал в создании первых паровых судов, организовал постройку большого числа малых судов для практического обучения морских экипажей, ежегодно выходил в плавания с эскадрой. Построил в Николаеве морскую астрономическую обсерваторию и морскую библиотеку, за что в 1822 году был избран почётным членом Петербургской академии наук. Участвовал в работе «Комитета образования флота» . Возглавлял Николаевский ссудный банк.Командующий Черноморским флотом многое сделал для обустройства Николаева.
В городе были воздвигнуты портовые сооружения, создано кредитное общество, активизировалась морская торговля. При Грейге в Николаеве появился Морской бульвар, начались работы по освещению города, прокладке тротуаров, открыты мужские и женские училища, построен приют. Город украсился новыми зданиями, активно озеленялся.
В 1826 году Грейг впервые в истории русского флота создал в Николаеве штаб, в задачу которого входила организация боевой подготовки флота в мирное время и разработка планов операций во время войны.
В 1827 году по его распоряжению были проведены первые раскопки Херсонеса, при которых было открыто три храма.
В русско-турецкой войне 1828—1829 годов флот под командованием Грейга успешно действовал на коммуникациях противника. Его черноморская эскадра поддерживала действия русских сухопутных армий на Балканах и Кавказе.
В июне 1828 года эскадра под руководством Грейга и начальника Морского штаба А.С. Меншикова двинулась к Анапе и вскоре овладела ею. Затем были победы под Варной, Месемврией, Ахиолло, Инеадой, Мидией, Сан-Стефано, Бургасом, Сизополем, крейсерство у Босфора, анатолийских и абхазских берегов. За умелые действия в войне флотоводец был произведён в адмиралы.22 сентября 1829 года был удостоен звания генерала, состоящего при Особе Его ВеличестваЭкслибрис А. С. ГрейгаВ 1833 году Грейг руководил подготовкой черноморской эскадры для Босфорской экспедиции, но командование ею было поручено уже начальнику его штаба контр-адмиралу Михаилу Лазареву. Здоровье главного командира Черноморского флота было ослаблено многолетней неутомимой деятельностью, и по возвращении Лазарева в Севастополь Грейг передал ему свой пост. Существует мнение, что Грейг саботировал распоряжения Николая I о подготовке эскадры к Босфорской экспедиции, в связи с чем последовало назначение Лазарева на должность начальника штаба Черноморского флота и поручение ему руководства Босфорской экспедицией.Незадолго до отставки Грейг руководил расследованием внезапной смерти прибывшего в Николаев героя последней русско-турецкой войны капитан 1-го ранга Казарского, который был направлен для проведения ревизии тыловых контор и складов в черноморских портах.Назначенный Николаем I членом Государственного совета, Грейг не оставался без дел: он стал основателем Пулковской обсерватории под Петербургом, с 1840 года возглавлял Вольное экономическое общество и Комиссию по вопросам кораблестроения. Как член Государственного Совета, адмирал Грейг выступал оппонентом министра финансов Е.Ф.Канкрина, предложив свой собственный проект реформы денежной системы России.Умер на 70 году жизни. Похоронен на Смоленском лютеранском кладбище в Петербурге.