Kareivinių rajonas – taip mieste buvusį karinį kompleksą vadindavo vietiniai. Carinėje okupacijoje iškilusios „kazernos“ 1944 m. buvo visiškai sugriautos vokiečių karo aviacijos. Vienintelis liudininkas menantis kareivinių praeitį – trijų aukštų namas S.Nėries g.
Praeityje Vilkaviškis buvo sukarintas miestelis, turėjęs puikiai išvystytą militarinę infrastruktūrą. Dariaus ir Girėno gatvėje (dabartinė – S.Nėries) stovėjo karo komendantūra, karininkų ramovė, šaudykla. Kareiviai turėjo savo kino ir šokių salę, kirpyklą, krepšinio aikštelę, ledo čiuožyklą, teniso aikštę, biblioteką. Buvo dideli ginklų ir šaudmenų sandėliai. Tribūna su IV artilerijos pulko aikšte, pulko ligoninė, karininkų pirtis, gurguolių, pabūklų sandėliai, arklių balnojimo aikštė, dengtas jojimo maniežas.
Tai buvo tarsi atskiras miestelis Vilkaviškyje, turėjęs savo tvarką, taisykles, tradicijas. Gausiausias kariuomenės dalinys esantis mieste buvo IV artilerijos pulkas. Vilkaviškyje dislokuotas 1926 m. Kareivinių rajone taip pat buvo 2-jo Lietuvos kunigaikštienės Birutės pulko ulonai, 9-tojo Lietuvos kunigaikščio Vytenio pėstininkų pulko kareiviai. Tačiau gausiausią militarinę grupę sudarė artileristai.
Kareiviai ir karininkai turėjo atskiras bibliotekas ir skaityklas. Kiekviena knyga buvo pažymėta IV artilerijos pulko antspaudu. Dažnas kareivis užsisakydavo metinę žurnalo „Trimitas“ ar „Karys“ prenumeratą, ir dovanodavo savo namiškiams likusiems kaime. Pulko štabas bibliotekos prižiūrėtoju skirdavo karininką. Skaityklų vedėjai oficialiai buvo vadinami bibliotekoriais. Pulko vado įsakymu karininkas, visiems pulko kareiviams, kasdien skaitydavo laikraščius. Pabrėžiama, kad perskaitytus straipsnius tekdavo ir paaiškinti, nes pasitaikydavo kareivių, kurie namuose retai susidurdavo su knygomis.
Vilkaviškio miestas turėjo net du kino teatrus. Vienas buvo miesto centre, o kitas atokiau – kareivinių rajone. Miestiečiai mieliau rinkdavosi pulko teritorijoje rodomus filmus, nes „suteikiamos lengvatos turėdavo pirmenybę prieš mieste esantį kiną. Pulko kine įrengta šviesgarsinė aparatūra, rodomos geros nebylės filmos.“ Vėliau filmai buvo „įgarsinami“ apačioje rodomais titrais. Civiliams buvo suteikiamos nuolaidos, todėl miesto centre esantis kino teatras buvo priverstas užsidaryti. Kiekvieną kartą prieš filmo seansą ekrane buvo rodoma Gedimino pilis ir raginama vaduoti Vilnių. Dažnai po filmo buvo rengiami kaukių baliai. Ilgametis pulko kino teatro vedėjas buvo artileristas, kapitonas Antanas Dapkus. Žuvęs Lamos lageryje.
Šeštadieniais, po filmo peržiūros, kariai rinkdavosi savo klube. Spaudoje tai buvo vadinama viešais pasilinksminimais. Šokio sūkuryje tvarką užtikrindavo kino teatro vadovybė. Pasilinksminimo vakarai buvo organizuojami kartu su civiliais tarnautojais. Kareivių klube stovėdavo įvairūs stalo žaidimai, minkštieji baldai, radijo aparatas. Kartą per mėnesį puskarininkiai organizuodavo spektaklio vaidinimą, vyko pulko choro pasirodymas. Karius dainavimo meno mokydavo samdytas Vilkaviškio „Žiburio“ gimnazijos mokytojas. Organizacijų vieši vaidinimai pulko klube buvo gana populiarus miestiečių laisvalaikio praleidimo būdas.
Ir sekmadieniais buvo galima sutikti šeimas vaikštinėjančias pulko teritorijoje. Kiekvieną pavasarį ir rudenį buvo sodinamos gėlės. Prie karininkų namo atsivėrė antrasis miesto sodas. Žurnale „Karys“ rašoma, kad 1931 m. buvo išvestos ištisos liepų ir klevų alėjos su vaismedžių ir uogų krūmais.
Artileristai rengdavo bendrus karinius lauko manevrus su gimnazistais. Spaudoje buvo rašoma, kad vyresnieji mokiniai atlieka pratimus su „pilna kautynių apranga“. Uždavinys buvo atremti besiartinantį priešą. Pridengti vilkaviškiečių evakuaciją į geležinkelio stotį. “Žiburio“ gimnazijos mokiniai rinkdavosi IV artilerijos pulko sporto aikštėje. Jiems buvo išdalinami ginklai ir apranga. Gimnazijoje kariško parengimo pamokas nuolat dėstydavo kapitonas V. Tarasonis.
Kiekvienais metais vykdavo varžybos Suvalkijos meisterio taurei laimėti. Pulkas turėjo savo futbolo komandą, kuri 1929 m. tapo čempionais nugalėdama Kybartų „Sveikata“ žaidėjus. Metais anksčiau pulko rinktinė laimėjo visos kariuomenės taurę. Karininkas Antanas Dapkus minimas, kaip nenuilstamas sporto ir švietimo renginių organizatorius: „jo iniciatyva organizuota pirmoji pulke futbolo komanda, stygų orkestras.“ Straipsniuose apie miesto pulką šio karininko pavardė buvo minima dažniausiai.
Pulko sporto draugija turėjo dešimt dviviečių „baidarkų“(baidarių), burinę valtį. Sporto aikštėje vykdavo raitelių konkūrai, dalyvaudavo kariai ir civiliai ūkininkai. Vykdavo mokomieji šaudymai iš pistoletų „Parabellum“. Žiemą čiuožykloje vykdavo ledo ritulio varžybos. Karininkų ramovėje stovėjo teniso stalas.
Karveliai buvo treniruojami nešioti paštą. Pulko karvelyną prižiūrėdavo apmokyti kareiviai. Ryšiui palaikyti buvo auginami ir dresuojami „vilkų veislės“(vokiečių aviganiai) šunys.
Vilkaviškyje pulkas praleido ištisus aštuonerius metus. Suteikė galimybę civiliams naudotis pulko kino teatru, kirpykla. Todėl miesto centre esančios kirpyklos buvo priverstos sumažinti paslaugų kainas. Pulko sporto aikštyne civiliai stebėdavo aukštos klasės futbolo, raitelių konkūrų varžybas. Buvo bendradarbiaujama su jaunaisiais miesto šauliais, gimnazistais, pradžios mokyklų auklėtiniais. Tačiau 1934 m. IV artilerijos pulkas buvo perkeltas į Plungę.