Нарадзіўся будучы навуковец 1 студзеня 1861 года ў вёсцы Лаша Гродзенскага павета (цяпер раён). Вучыўся ў народнай вучэльні в. Ятра. Затым скончыў Мінскую духоўную семінарыю (1881) і Нежынскі гістарычна-філалагічны інстытут (па рускай і славянскай філалогіі, пад кіраўніцтвам праф. Р. Ф. Брандта, 1885. У час вучобы ў Нежыне ён выдае сваю першую працу як філолаг-славіст на старонках «Русского филологического вестника» на рэцэнзію М.Бадрова «Слово «человек» в производствах» . А ўжо ў 1885 годзе выдае ў Маскве сваю буйную працу «Обзор звуков и форм белорусской речи». 25-гадовы вучоны філолаг разгледзіў не лексіка-слоўнікавы, а лінгвістычны накірунак мовы, што да яго яшчэ ніхто не рабіў.
У 1894 годзе Яўхім Фёдаравіч апублікаваў сваю працу “На мове так званых літоўскіх летапісаў”. У гэтым жа годзе за беларусазнаўчую працу быў ўзнагароджаны вялікім залатым медалём Рускага геаграфічнага таварыства. За працы ў галіне палеаграфіі Пецярбургская Акадэмія Навук узнагародзіла яго малой Ламаносаўскай прэміяй. У 1902 годзе Яўхім Фёдаравіч становіцца дэканам Варшаўскага ўніверсітэта, з 1905 па 1910 годзе двойчы перавыбіраўся яго рэктарам. Пачатак 20-га стагоддзя стаў для Карскага вельмі плённым. Так, у 1903 годзе была выдадзена першая кніга "Белоруссы" з дадаткам у выглядзе «Этнографической карты белорусскаго племени, Белорусские говоры». Карскі выканаў задачу, якую паставіў перад сабой: «Определение этнографической границы белорусской народности и языка с соседними великорусскими и малоросскими племенами и наречиями, а также с народностями польской, литовской и латышской». Каштоўных звестак па беларускай этнаграфіі было да таго часу назапашана нямала, а вось абагульняючага даследавання усё яшчэ не было. У выніку Карскі ўсталяваў дакладныя межы этнаса беларусаў на прасторы 14 губерняў. Занесеныя на карту, гэтыя звесткі ўжо хутка стануць найважнейшым аргументам для вызначэння межаў Беларусі.
З 1905 па 1917 гады Яўхім Фёдаравіч Карскі ўзначальваў буйны філалагічны часопіс – «Рускі філалагічны веснік», у якім былі апублікаваныя многія яго навуковыя працы. У снежні 1917 года ўдзельнічаў у I Усебеларускім з'ездзе, дзе быў абраны яго ганаровым старшынёй. Яўхім Карскі займаў пасаду старшыні арганізацыйнай камісіі па адкрыцці ў Мінску Беларускага дзяржаўнага ўніверсітэта, удзельнічаў у распрацоўцы статута Інбелкульта. Летам 1921года ён пераехаў у Петраград, з’яўляўся адным з арганізатараў акадэмічнай навукі, працаваў дырэктарам Музея антрапалогіі і этнаграфіі.
Яўхім Фёдаравіч Карскі пакінуў пасля сябе больш як 1000 навуковых прац па славістыцы, беларусістыцы і русістыцы, у т.л. даследаванняў па гісторыі беларускай мовы, дыялекталогіі, фальклоры, этнаграфіі, гісторыі беларускай літаратуры і іншых.
У аддзеле старадрукаваных і рэдкіх выданняў захоўваюцца пражыцёвыя працы славутага навукоўца.
