1860. augusztus 29-én született, 1883. szeptember 21-én szentelték pappá Nagyváradon. 1885-1889-ig gyulai magyar káplán, 1889-ben érkezett Csorvásra. Igen nehéz volt az a helyzet, amibe belecsöppent. A község elérte eltartó képességének a határát, ezzel együtt a katolikus vallású hívek száma is megnőtt. A polgárosodás magasabb fokra lépett, megjelentek a baloldali, illetve szélsőbaloldali mozgalmak, később a pártok is. Ezek az Egyházban ellenséget láttak. A korábbi társadalmi szervezetek, az olvasókörök elvesztették jelentőségüket. Így járt a katolikus Olvasóegylet is, melyet Kozma Gusztáv curatus, mint elnök feloszlatott, mivel a létszám az Alapszabályban rögzített minimális szám alá csökkent. Megalakult a Csorvási Munkáskör, mely a szociáldemokraták kezében volt. Ezért Kozma Gusztáv vezetésével megalakult 1890-ben a Katolikus Kör. Feladata az olvasóköri funkción túl a tehetősebb katolikus gazdálkodókat és a munkásréteget tömöríteni a közös célok érdekében. Nem aratott az ötlet túl nagy sikert, mivel a baloldali pártok, főként a Független Szocialista Párt tagjai kiléptek a bejegyzett felekezetekből. Maguk eskettek, kereszteltek, temettek. Az állami anyakönyvezés bevezetése (1895) is ezt a folyamatot segítette. A „deres” és a „rabszolga”- törvények a baloldalt elsorvasztották, hatásuk a századfordulóra legyengült. Kozma Gusztáv (még a Rerum Novarum pápai enciklika előtt, mely az Egyház társadalmi tanítását fejtette ki), úgy gondolta, hogy a katolikus oktatás fejlesztése az egyházellenes mozgalmakat visszaszoríthatja, mivel az utánpótlásuk hal el a katolikus szellemű nevelés hatására. Ebben a meggyőződésében gróf Wenckheim Géza is támogatta a lelkészt.
Az iskola helyzete egyébként tényleg aggodalomra adott okot. A legnépesebb felekezet iskolájában katasztrofálisak voltak az oktatás feltételei. Egy tanteremben próbálta oktatni az összes gyereket a tanító. Kozma Gusztáv ezért 1892. január 25-én gyűjtőívet tett közzé, melyben a magas lélekszámra hivatkozva javasolta: nyissanak új iskolát. Tudni kell, hogy ekkor 1856 katolikus élt Csorváson. A lelkész úgy gondolta, hogy leányiskolát szervez apácák vezetésével, „hogy már kisded korukban vallás-erkölcsnevelésben részesüljenek”. Tervezte katolikus óvoda felállítását is. A cél elérése érdekében többek között az alábbiakat írta: „Azon körülmény, miszerint Csorváson a róm. kath. hívek száma annyira felszaporodott (1856 lélek), hogy a gyermekeket egy iskolai terem többé nem képes befogadni, kényszeríti a csorvási hitközséget egy új iskola felállítására… Tekintve azonban, hogy… ezen új iskola épületét nem képes önerőből felállítani, ezért elhatározta, hogy az építési költséget gyűjtés útján igyekszik beszerezni…”. A legnagyobb támogatást nyilván a főnemesi családok adták, a Wenckheimek, Almássy Kálmánné grófnő, báró Wodiáner Albert, báró Waltesskirchen Borbála, gróf Károlyi Gyuláné. Azonban a hívek, a község vezetése, és más egyházi személyek is kinyitották az erszényüket. Az iskola fenntartására a Wenckheim család grófi ága további ötezer forintot ajánlott fel. A pénz tehát bőségesen elég volt az iskolára. Épp ezért az egyháztanács Kozma Gusztáv közvetítésével 1892. márciusában azzal a kéréssel fordult gróf Wenckheim Gézához, hogy a gyűjtött pénzösszeget ne óvoda, hanem templomépítés céljára legyen fordítva. A gróf ezt elutasította. 1892. június 16-án Kozma Gusztáv aláírta a szerződést Schriffert József gyulai építésszel. Az iskola 1893-ban fogadott először diákokat, az első csorvási tanítónő, Gróh Mária vezetésével. A gyűjtés olyan jól sikerült, hogy gróf Wenckheim Géza Rudolf-majori birtokán is megnyílt egy katolikus uradalmi iskola, melynek tanítója Sántha Sándor költő lett. Az a terv, miszerint apácák működtessék az iskolát, csak 1898-ban vált valóra, ekkor érkezett Csorvásra az első apáca, Gaál Mária Róza. A rend letelepedésére 1908-ig kellett várni.
Az iskola felépítése után újabb fontos feladat várt Kozma Gusztávra és az egyházközségre. A hívek száma elérte a 3000 főt, a régi templom kicsinek bizonyult, az állaga is nagyon leromlott. Így egy új templom építésére volt szükség, melyet 1900-ban szenteltek fel. 
Kozma Gusztáv 1905-ben távozott Csorvásról.