Родился Иосиф 18 августа 1896 года. В 1916 году окончил Виленское военное училище и пулемётные курсы Ораниенбауманской офицерской школы. С 1918 года служил в РККА. С 1931 года преподавал на стрелковых тактических курсах РККА имени Коминтерна, а с 1934 года - в Военной академии РККА имени М.В. Фрунзе, где был старшим руководителем кафедр боевого управления и общей тактики.

С июня по декабрь 1941 года Леонович возглавлял оперативный отдел штаба 18-й армии, а с января по апрель 1942 года занимал должность начальника штаба этой армии. В условиях тяжелейших боёв первых лет войны на его плечах лежала огромная ответственность за организацию управления войсками.

Был награждён орденами Ленина и Красного Знамени, медалями «XX лет РККА» и «За победу над Германией в Великой Отечественной войне 1941-1945 гг.». В 1952 году вышел в отставку.

Его судьба - это история человека, связавшего свою жизнь с армией, прошедшего через суровые испытания войны и сохранившего верность воинскому долгу.