Родился 29 сентября 1921 года в деревне Боловино Ярославской губернии (ныне - Борисоглебский район Ярославской области). После окончания средней школы и школы фабрично-заводского ученичества работал резиносмесильщиком на Ярославском шинном заводе. В июне 1941 года призван в Рабоче-крестьянскую Красную Армию. С октября того же года - на фронтах Великой Отечественной войны.

К июню 1944 года сержант Леонид Сергеев командовал отделением 322-го стрелкового полка 32-й стрелковой дивизии 49-й армии 2-го Белорусского фронта. Отличился при освобождении Белоруссии. 22 июня 1944 года отделение Сергеева переправилось через реку Проню и участвовало в захвате, удержании и расширении плацдарма, захватив три линии вражеских траншей и три артиллерийских орудия. В том бою Сергеев лично уничтожил 8 солдат противника.

В ходе дальнейшего наступления отделение переправилось через Днепр в районе Шклова. В боях за плацдарм Сергеев лично уничтожил дзот и самоходное артиллерийское орудие «Фердинанд». Во время последующего наступления в Литве получил тяжёлое ранение.

24 марта 1945 года Указом Президиума Верховного Совета СССР за образцовое выполнение боевых заданий, мужество и героизм сержанту Леониду Александровичу Сергееву посмертно? было присвоено звание Героя Советского Союза с вручением ордена Ленина и медали «Золотая Звезда» № 7689.

После войны Сергеев окончил Ивановское военно-политическое училище. В 1946 году был уволен в запас и вернулся в Ярославль, где вновь работал на Ярославском шинном заводе. В 1952-1975 годах служил в органах МВД СССР, дослужившись до звания подполковника.

Леонид Александрович Сергеев умер 3 октября 2006 года. Похоронен на Воинском мемориальном кладбище Ярославля.

Был награждён орденом Ленина, орденом Отечественной войны I степени, орденами Славы II и III степеней, медалью «Золотая Звезда» Героя Советского Союза и другими медалями.