Нил Гилевич родился 30 сентября 1931 года в крестьянской семье в деревне Слобода Логойского района Минской области. Здесь прошли его детство и юношеские годы, в том числе годы немецкой оккупации. После войны работал почтальоном, а с 1947 года жил в Минске.

В 1951 году окончил Минское педагогическое училище имени Н. К. Крупской, а в 1956 году - филологический факультет БГУ. После окончания университета учился в аспирантуре. С 1960 года работал на кафедре белорусской литературы БГУ. В 1958–1963 годах был литературным консультантом газеты «Звязда», а в 1980–1989 годах - первым секретарём правления Союза писателей Беларуси.

Писать стихи Нил Гилевич начал ещё в детстве. В печати дебютировал в 1946 году со стихотворением «Яблынька», опубликованным в журнале «Бярозка». Первый сборник поэта «Песня ў дарогу» вышел в 1957 году.

Основными темами его творчества стали любовь к родной земле, белорусскому языку и культуре, память о прошлом, народные традиции и духовный мир человека. Нил Гилевич является автором многочисленных сборников стихов и поэм, романа в стихах «Родныя дзеці», венка сонетов «Нарач» и автобиографической повести «Перажыўшы вайну».

Значительное место в деятельности Нила Гилевича занимали изучение и сохранение белорусского фольклора. Он участвовал в фольклорных экспедициях и редактировал сборники белорусских народных песен, сказок и других фольклорных произведений.

Нил Гилевич также много переводил на белорусский язык, преимущественно с других славянских языков. Его стихи вдохновляли белорусских композиторов и стали основой для многих песен.