Urodził się 20 marca 1805 r. w Pęsach (blisko rodowej wsi Gać) koło Łomży w rodzinie szlacheckiej. Był synem Pawła i Teresy z Mioduszewskich.
Uczył się w szkołach pijarskich w Łomży i w Radomiu, gdzie jego stryj Tadeusz (1771-1838) był rektorem w latach 1815-1825. W 1821 r. wstąpił do pijarów w Łukowie tam odbył nowicjat i w 1822 r. złożył śluby zakonne. Od 1824 r. przebywał w konwikcie na Żoliborzu w Warszawie, gdzie studiował teologię w nowo utworzonym Seminarium Głównym i filologię klasyczną na Wydziale Nauk i Sztuk Pięknych Uniwersytetu Warszawskiego. Równocześnie uczył się historii i języków starożytnych w pijarskiej warszawskiej szkole wojewódzkiej przy ul. Długiej. W 1825 r. otrzymał złoty medal większy za historyczną pracę konkursową „Obraz elekcji Michała Korybuta i stan ówczesnej Polski”. W 1827 r. ukończył studia ze stopniem magistra nauk wyzwolonych. Przez rok kontynuował studia filologiczne na Uniwersytecie w Berlinie.
Po przyjęciu święceń kapłańskich w 1828 r. przez dwa lata uczył języków starożytnych i historii w pijarskiej szkole wojewódzkiej w Piotrkowie.
W sierpniu 1830 r. wyjechał na dalsze studia do Berlina, ale wrócił do warszawy na wieść o wybuchu powstania. Został wiceprzewodniczącym powstałego Towarzystwa Patriotycznego. W korpusie gen. Józefa Dwernickiego pełnił służbę sanitarną i funkcję kapelana sztabowego. Dnia 16 III 1831 r. wygłosił w Zamościu płomienne kazanie o potrzebie obrony i rozszerzania powstania. Wraz z korpusem Dwernickiego przeszedł granicę Austrii (odznaczony przedtem Złotym Krzyżem Virtuti Militari). Internowany, uciekł z kolumny jeńców w drodze do Czech, schronił się w Berlinie, a następnie wrócił do Królestwa.
W 1837 r. został wikarym w Jedlni, gdzie proboszczem był jego stryj Tadeusz. W rok później, po śmierci stryja, objął wspomniane probostwo, na którym pozostawał do końca życia. W parafii, obejmującej część dawnych dóbr królewskich, potem rządowych, zachodziły duże zmiany, związane z tzw. kolonijnym urządzeniem oraz zamianą pańszczyzny na czynsz, których był orędownikiem. Jego staraniem powstały w parafii nowe szkoły elementarne (gdy w wielu parafiach do końca wieku nie było szkół) i bractwa trzeźwości, co przyczyniło się do wzrostu poziomu materialnego i oświatowego parafian. „Był czynnym członkiem Towarzystwa Rolniczego w okręgu kozienickim. Dla szerzenie czytelnictwa i pogłębienia religijności parafian opracował modlitewnik <
W 1846 r. został dziekanem kozienickim, w 1847 kanonikiem honorowym kaliskim, w 1860 r. kanonikiem honorowym sandomierskim, w 1862 r. kanonikiem gremialnym i tym samym wszedł do kapituły katedralnej, a w latach 1864-1867 był sędzią w konsystorzu (surogatem) w sprawach małżeńskich. Funkcje kościelne ciążyły mu, wymawiał od ich przyjęcia, występował do biskupa o zwolnienie z ich pełnienia z powodu słabości wzroku i braku czasu, który przeznaczał na badania naukowe. Po napadzie powstańców na stacjonujących w Jedlni żołnierzy rosyjskich w dniu 22 I 1863 r., władze carskie uznały w tym jego winę, dwukrotnie go aresztowały i przetrzymywały w Dęblinie i Radomiu. Powstanie rzeczywiście popierał, szczególnie w zakresie organizacji zaopatrzenia oddziałów w okolicznych lasach. W 1867 r. władze rządowe pozbawiły go wyższych godności kościelnych i przynależnych do nich beneficjentów.
Przygotowany do samodzielnych studiów historycznych i rozmiłowany w badaniu przeszłości, wiele lat swego życia Gacki poświęcił opisom okolicznych parafii i miejscowości. W 1841 r. został współpracownikiem czasopism: „Biblioteka Warszawska” i „Pamiętnik Religijno-Moralny”. W tym ostatnim opublikował monografie: Odechowa, Jedlni, Kozienic, Magnuszewa, Świerży, Brzózy, Wsoli, Suchej, Skaryszewa, Iłży, Radomia i Łysej Góry. Niektóre z nich uzupełnione i rozszerzone ukazały się w wydaniach książkowych.
Prace Gackiego były dobrze przyjmowane przez historyków z powodu sumiennego i opartego na licznych źródłach opracowania, przez co dziś same stały się źródłami. Jego zasługą było wydobycie i wydanie wielu dokumentów, dziś zaginionych, szczególnie akt dawnego prawa obelnego, czyli bartnego. Jako wnikliwy obserwator zwyczajów ludowych zamieścił w swych pracach wiele informacji etnograficznych i demograficznych, co stawia go w rzędzie pierwszych etnografów polskich. Należy podkreślić, że badaniami historycznymi zajmował się poza swoimi zajęciami zawodowymi i w oddaleniu od większych ośrodków umysłowych. Dodatkowe przeszkody w pracy stanowiły utrudnienia komunikacyjne i w dostępie do źródeł i zbiorów archiwalnych oraz ograniczenia polityczne.
Zmarł 21 XI 1875 r. w Jedlni i tam został pochowany na miejscowym cmentarzu obok – zgodnie ze swym życzeniem – zbiorowej mogiły powstańców z 1863 r. Na cmentarzu przykościelnym w Jedlni upamiętnia Go żeliwny pomnik (częściowo zniszczony), a w Radomiu jest patronem ulicy. Swymi pracami historycznymi stworzył podstawę przyszłym badaczom regionalnym i lokalnym w regionie radomskim.