Иван Климов родился 10 сентября 1903 года в Костюковцах Могилёвской губернии. С 1923 года занимался профсоюзной и комсомольской работой, а с 1925 года начал партийную деятельность. С 1931 года работал в ЦК КП(б)Б, позднее возглавлял Республиканскую школу пропагандистов и партийные курсы.

В годы Великой Отечественной войны Климов служил политическим работником Красной Армии, участвовал в эвакуации государственных и музейных ценностей из Могилёва. С 1943 по 1944 год возглавлял Вилейский подпольный областной комитет КП(б)Б. После освобождения Беларуси руководил Молодечненским областным комитетом партии.

В 1952–1953 годах был первым секретарём Барановичского областного комитета КП(б)Б, а с 1953 года занимал руководящие должности в Совете Министров Белорусской ССР. В 1968-1974 годах являлся заместителем председателя Президиума Верховного Совета БССР.

С 1974 года Климов работал в Институте истории партии при ЦК КПБ, занимался сохранением памяти о партизанах и подпольщиках. В 1980 году ему было присвоено звание Заслуженного деятеля культуры Белорусской ССР.

Иван Фролович Климов умер 9 октября 1991 года в Минске. Его деятельность стала частью истории государственного управления Беларусью, её военного прошлого и послевоенного восстановления.