1948년 6월 18일 제주도 주둔 제11연대 연대장 박진경 대령의 암살사건은 숙군의 단초가 되었는데, 이 사건을 계기로 국방경비대에서는 전군 차원의 사상검열을 실시했다. 1948년 8월 16일자 주한미임시군사고문단에는 다음과 같은 내용이 보고되었다.
“이번 주 동안에 전복행위의 혐의가 있는 국방경비대원들의 검거와 조사가 이루어졌다. 부산 부근에서는 11명의 국방경비대 장교가 전복행위 혐의로 조사를 받았으나 혐의가 없는 것으로 판명되어 석방될 것이다. 제10연대에서는 68명이 체포되었다. 제1연대는 지난주의 85명 이외에 4명이 더 체포되었고, 제15연대는 102명을 체포하였다. 다른 연대의 보고는 완료되지 않았다.” 이외에도 광주의 제4연대에서는 8월 15일 기념행사를 앞두고 불온한 계획을 수립했다는 죄목으로 하사관들이 구속되었다.
당시 새로 취임한 이범석 국무총리 겸 국방장관은 장병들의 사상문제에 대해 큰 관심을 가졌으며, “대한민국 군대는 공산주의에 끝까지 대항하는 군대가 되어야 한다”는 점을 누누이 역설하였다.
숙군은 정부수립 직후 정부의 핵심 현안 업무 중 하나였기 때문에 진행 속도가 빨랐다. 주한미대사는 미 국무성에 “9월 이래로 육군 정보국원들은 육군에서 공산주의자들로 의심되는 대략 1,600명을 체포하였다. 수사는 계속되고 있다”고 보고하였다. 또 1948년 11월 기자회견에서 이범석 국방장관은 숙군에 관한 질문에 다음과 같이 답변하였다. “군은 사상․명령․계통 등 전부가 일치하여야 하며 이에 대하여 위반되는 군의 존재는 절대로 불가능할 것이다. 앞서는 공산분자가 군에 침입하여 단순한 청년 군인을 유혹하여 이에 감축시킨 것이다. 그러므로 군 당국은 건전한 숙군을 위하여 정권 이양과 동시에 숙군을 단행하여 지금까지 5~600명에 가까운 장병의 불순분자를 면제한 것이다”
이렇듯 대한민국 정부수립 후 숙군이 확대되자 임시군사고문단장은 이범석 국방장관에게 서한을 보내 전복행위로 처벌된 군인들을 경찰에 넘기지 말고 군 당국에서 철저하게 조사할 것을 제안하였다. 당시 조사업무를 담당할 요원들에 대한 교육이 이미 진행되고 있던 상황이었다. 1948년 7월 1일부로 통위부에서는 국방경비대 정보국에 김점곤(金點坤) 대위를 비롯한 총 24명을 발령하였다. 그리고 주한 미군 제24군단 G-2에서는 미군 철수를 대비하여 주한미군 방첩대의 임무를 계승할 군 방첩대를 만들기로 결정하였다. 1948년 9월 일군의 국군 장교와 사관후보생들에게 1개월의 특무교육을 받기 위해 상경하라는 명령이 하달되었다. 40명의 장교와 장교후보생들이 9월 20일 시작된 6주 과정의 특무학교에서 교육을 받았다. 이들에게는 교육이 끝난 후 소속 부대로 돌아가서 각 부대의 방첩대 지부를 조직하라는 임무가 부여되었다.213) 또한 이 시기에 국방경비대에서는 대원들의 신원을 확인하기 위해 지문 채취를 실시했다. 미 군정청의 한 자료에 의하면, 1948년 8월 1일 이후 경찰의 협조아래 지문채취작업이 빠르게 진행될 것이라고 기록하고 있다. 실제로 9월 초순까지 국방경비대원 중 약 절반가량에 대한 지문채취작업이 완료되었다.
1948년 여순 10․19사건은 숙군 확대에 결정적인 역할을 했다. 1948년 10월 22일 이범석 국무총리 겸 국방장관은 “이런 기회를 이용하거나 혹은 선동하는 분자에게 정부는 엄격한 조치를 취할 것”이라고 하여 대대적인 숙군을 전개할 것임을 분명히 하였다. 10월 24일 이승만 대통령은 공산주의자들이 지하에서 공작하여 전국을 혼란에 빠뜨리고 있고, 정부는 이러한 분자들을 단호하게 숙청하겠다는 담화를 발표하였다. 또한 채병덕 육군 총참모장은 11월 21일 기자회견에서 숙군 문제에 대해 “우선 사상이 불순한 장병의 국군은 물론, 물질적으로 좌우되는 불순분자도 적발할 것”이라고 말하며, 숙군의 철저한 진행을 예고하였다.
숙군의 필요성은 당시 행정부와 대립하고 있던 국회에서도 제기되었다. 여순 10·19사건 직후 열린 국회 수습대책회의에서 이청천 의원은 국군이 공산주의자들의 도피처가 되었다고 국방부 책임자들을 질책하며 군대내의 숙청을 강력하게 제기하였다.
여순 10·19사건 직후 육군에서는 대대적인 숙군을 전개하였다. 반란사건이 발생하자 백선엽 육군 정보국장은 송호성 총사령관의 참모장으로 진압작전에 참여하였다. 이때 광주의 제4연대에서 반란군에 합류하는 자가 나타나고, 다른 연대에도 토벌에 소극적인 자가 나타나자 백선엽 정보국장은 육군 정보국 소속의 조사반을 광주로 소환하여 숙군을 전개하였다. 빈철현(賓哲顯) 대위를 반장으로 한 조사반은 단기간에 약 1,000명을 조사하여 남로당 계열 150명을 적발하였다.
이와는 별도로 11월 17일까지 제1여단사령부 관할하의 경기도 주둔 부대에서 불순분자로 약 600명이 검거되었으며, 11월 27일까지 숙군으로 약 100여명의 장교와 약 1,000여명의 병사가 구금 취조를 받았다.
1949년 3월 3일 채병덕 참모총장은 국방부 출입기자단과의 기자회견에서 숙군이 일단락되었음을 다음과 같이 밝혔다. “국군에 가장 필요한 것은 건전한 사상과 우수한 장비임은 재언을 불필요한 바인데 과거 3년간 군정의 지도 불충분으로 공산분자의 잠입이 없지 않아 상당히 세포망이 조직됐었으나 여순반란 사건이래 그 숙청에 착수하여 반란에 직접 참가한 자 이외의 장교 326명, 사병 1,170명, 합계 1,496명을 숙청하였다. 특히 이재복, 이용수, 김영식과 김종석, 최남근, 오일균 소령 등을 체포함에 따라 세포망이 완연히 드러났으므로 숙청은 완전하였다. 그러나 공산사상의 침입은 계속될 것이며 현재도 없지 않을 것임에 비추어 본관은 남북통일만이 문제를 해결하는 유일의 관건임을 재강조하는 바이며 한편 미소양국의 세기적 알륵(謁勒)이 해결됨으로서 문제는 더욱 신속한 해결을 볼 것임을 부언한다.”
그러나 그 후에도 숙군은 계속되었다. 1949년 4월 7일 육군에서는 “좌익활동으로 의심되는 108명의 장교와 560명의 사병이 체포되지 않았고, 이 용의자들을 계속 감시하고 있으며 만약 개별 사건에 혐의가 있으면 체포될 것”이라고 발표하였다. 특히, 1949년 5월 4~5일 제8연대 2개 대대의 월북사건 이후 숙군은 계속되었다. 당시 신성모 국방부장관은 이승만 대통령에게 올린 보고서에서 “국방군이 금후로는 여사한 반란이 없도록 숙군을 철저히 하기 위하여 비상수단을 취하겠다”고 하여 숙군이 지속될 것임을 예고하였다.