로마에 군단이 생기기 이전, 로마 왕정 시기와 공화정 초창기 시기, 로마군은 대략 100명의 켄투리아(Centuria)들로 조직되었다 묘사되고 있다. 이 켄투리아들은 필요시에 편성되어 자신들을 고용하거나 양성한 지휘관에게 응했다. 이러한 독립적인 조직은 B.C 2세기까지 경보병과 기병들에게서 지속되었으나, 보조 역할이 동맹군으로 대체됨에 따라 이후에 완전히 폐지되었다. 켄투리아의 지휘관, 이후에 켄투리온(Centurion)으로 공식화되었다. 켄투리아의 부지휘관, 기수의 역할들은 로마 공화정 초기 시기에 명시되었다. 로마의 초기 시기는 기록이 되어 있지 않고 신화 속에서나 존재하고 있지만, 그 신화들이 세르비우스 툴리우스(Servius Tullius)의 역할 중에서 인구 조사가 실시되었다는 것을 말해준다. 이와 같은 인구 조사로 인해 모든 신체가 건강하고, 재산을 보유한 로마인 남성 시민들은 그들이 지닌 재산을 근거로 군복무가 5개로 나뉘었고 그 이후 큰 규모의 군대, 혹은 군단의 하급 부대 단위인 켄투리아로 나뉘었다. 이처럼 군에 입대하는 것은 로마 시민권에 대한 의무이자 분명한 증표였다. 마리우스 군제 개혁 이전 동안 부유한 지주들은 가장 긴 기간 동안 군복무를 했다. 이들은 만일 국가가 붕괴되었다면, 가장 많은 것을 잃었을 것으로 추정된다. 로마 공화정 시기의 로마군은 징병 된 시민들을 중심으로 조직된 시민병들이었다. 

So-called “Marius”, free copy (probably augustean time) after a portrait of an important Roman from 2nd century BC. Because of many common details with the so-called «Sulla» (proportions, open mouth, large eyes), it is advanced that both statues (brothers, adversaries?) were concieved and exhibited together.

초기 로마군은 소수정예의 군대를 운용하여 기병대를 주력으로 삼았는데, 에트루리아와 삼니움족과의 전쟁에 고전하면서 그들의 중장보병 위주 군제를 적극적으로 받아들였다. 시민 위주의 중장보병 형태는 지중해 지역 그리스계 국가들의 특징이기도 했지만, 로마는 이것을 더욱 체계적으로 다듬었다. 자영농으로 구성된 시민들은 무장을 개인적으로 조달했으며, 따라서 재산에 따라 무장이 달라질 수밖에 없었고 군에 있어서 차지하는 역할도 달라졌다. 사회적 계급이 곧 군의 계급이 된 셈이다. 시민들은 재산 액수에 의해 분류되어 최상위 계층은 기병과 중장 보병이 되었고 중위 계층은 중장 보병을, 하위 계층은 경장보병을 맡는 군대 형태가 구축되었다. 로마군의 군율은 강하면서도 동시에 유연성이 있거나 지휘관의 자질이 매우 중요시된 것도 이와 같은 시민병 위주의 형태 때문이었다. 물론 아무 시민들이나 입대시킨 것은 아니었고, 17세 때 징병검사를 실시했는데 지적장애, 신체 결손, 중증 질환 등을 앓고 있는 사람은 제외되었으며 나머지 시민들에게도 현역 판정을 했다. 그리고 집정관이 군을 소집할 때 이와 같이 현역 판정을 받은 17세부터 시작해 45세까지의 남성이 광장에 소집되어 지명된 사람이 차출되는데, 이들이 1년 동안 병역을 수행하게 된다. 어떻게 차출되었는지는 알려지지 않았지만, 이때 재산도 함께 신고했는데 어디서 임무 수행을 해야 하는 지를 확인하기 위해서였다. 

이와 같이 재산별로 분류된 병사들은 백인대장이 이끄는 백인대에 소속되었다. 이들은 각각 작은 정사각형들을 구성하면서 하나의 큰 직사각형을 이루었다. 또한 무장의 질과 나이에 따라 벨리테스(Velites), 하스타티(Hastati), 프린키페스(Principes), 트리아리(Triarii), 에퀴테스(Equites)로 나뉘었는데, 벨리테스(Velites)는 투창병, 하스타티(Hastati)는 경보병, 프린키페스(Principes)는 중보병, 트리아리(Triarii)는 중창병, 그리고 에퀴테스(Equites)는 기병이었다.

① 벨리테스(Velites) : 매우 가볍게 무장하였다. 많은 수의 투창을 들고 다니며 전투 개시 시 최전방에서 투창을 던지는 임무를 맡았다.

② 하스타티(Hastati) : 젊은 병사들로 이루어진 경보병으로 전선의 맨 앞줄에 위치하여 적의 체력을 소모하는 역할을 맡았다.

③ 프린키페스(Principes) : 로마군의 핵심이자 주력을 이루는 병력으로 이들은 전투 경험이 풍부한 30대에서 40대 초반의 시민으로 구성되어 있었다.

④ 트리아리(Triarii) : 나이가 많은 고참병으로 구성되어 있었다. 이들은 최후방에 위치하며 여러 가지 전술적 움직임에 동원되거나 불리한 전선에 투입되는 등의 보조적이면서도 전장에서 승패를 확정하는 결정적인 역할을 맡았다.

이러한 형식을 마니풀라(Manipular) 형식이라 하는데, 삼니움 전쟁 당시에 확립된 것으로 보인다. 이와 같은 로마 고유의 독특한 구성은 로마군으로 하여금 다른 세력에게는 볼 수 없는 상당히 유기적인 움직임을 가능하게 하였으며 따라서 로마군은 다양한 전술적인 움직임을 실행할 수 있었다. 개별 시민들의 전투력 자체에는 그다지 큰 기대를 하지 않았고 유기적인 집단 전쟁 수행을 중시했다. 또한 이 시기에 트리아리와 프린키페스를 이루는 군단의 주축 병사들은 로리카 하마타(Lorica hamata)라고 불리는 사슬형 갑옷과 함께 반원형 방패인 케트라투스(Cetratus)를 사용하였다. 학자들 사이에서는 케트라투스의 채색과 문양에 대해서도 심도 있게 들여다 보고 있는데 대부분의 기록화에서는 로마군의 방패를 붉은색으로 칠하고 있는데 학계에서는 B.C 4세기~A.D 1세기경 프레스코화를 근거로 방패의 채색은 백색 계열의 밝은 색깔 배경에 홍색이나 청색으로 번개와 화살촉 문양을 그려 넣었을 것이라 생각하고 있다.

또한 로마군은 그들과 같은 라틴족 도시들로 이루어진 라틴 동맹의 동맹 도시 또는 속국들에게서 보조병을 징집하여 동원했다. 보통 로마 군단병의 좌우 측면에 배치되어 날개(Alae)라고 불린 이 동맹 도시 보조병의 개념 역시 다른 나라에서는 찾아볼 수 없는 로마만의 독창적인 것으로, 이는 로마 군단과 비슷한, 종종 더 많은 규모의 병력을 동맹 도시로부터 제공받아 로마군과 함께 전투를 벌이는 것이었다. 특히 동맹 도시 기병대 규모는 로마 시민 기병대의 3배에 달했고, 전투력도 로마 시민 기병에 비해 우수하여 카르타고의 한니발은 칸네 전투에서 로마 기병대를 집중적으로 공략하고 동맹 도시 기병대는 누미디아 기병으로 견제하기도 했다. 동맹 도시 보병의 1/5, 기병의 1/3은 정예 부대(Extraordinarii)로 따로 편성되어 선봉이나 집정관의 호위 등 중책을 맡기도 했다. 로마는 보조병을 제공받는 대가로 동맹 도시에게는 외교권을 제외한 완전한 정치적 자치를 부여하였으며, 세금 역시 강요하지 않았다. 그리고 로마는 그들에게 군사적인 보호를 제공하게 된다. 이러한 보조병의 존재는 로마의 군비를 크게 절감시켰고, 군사력 또한 크게 상승하게 했다. 그러한 결과로 인해 아테네나 테베와 같은 그리스의 대도시에 비해 로마가 해마다 동원할 수 있는 병력의 양은 상당하였다. 따라서 로마는 대규모의 총력전이 가능하였으며 포에니 전쟁 때는 해마다 10만이 넘는 병력을 편성할 수 있었다. 

그로 인해 에페이로스(Epirus)의 피로스 1세(Pyrros I, B.C 319~B.C 272)는 로마를 두고 머리를 베어도 다시 자라나는 히드라에 비유하기도 하였다. 한니발이 이탈리아에 침입함으로 인해 발발한 제2차 포에니 전쟁 당시, 로마인들은 한니발로부터 기병 운용의 중요성을 터득했다. 한니발은 우세한 기병 전력들을 바탕으로 이들의 빠른 기동력을 보병 배후로 기동한 뒤, 돌진하여 충격을 주는 전술을 즐겨 사용했고 이는 로마군이 초기에 연전연패하는 결과를 낳게 되었다. 이러한 전술에 연패하고 또한 칸네 전투에서 사상 최악의 패배를 경험한 로마인들은 기병 전력의 확보에 집중하게 되었으나 기존의 귀족으로부터 기병 전력을 조달하는 방식으로는 충분히 확보할 수 없었다. 또한 이탈리아의 지형은 대부분이 산지라서 말을 키울 목초지가 부족해 말을 많이 키울 수 있는 여건이 되지 않았다. 그로 인해 로마인들은 기병 부대를 대거 운용하는 이민족 부대 전체를 고용하는 방식으로 기병 전력을 조달하고, 더 이상 귀족으로부터 기병을 조달하지 않는다. 그러한 결과로 인해 에퀴테스는 더 이상 기병 자체가 아닌 기사 계급을 뜻하는 명칭으로 굳어지게 되었으며, 라틴 동맹 도시 기병대의 중요성 또한 서서히 감소하였다. 이러한 방식의 기병 조달은 후일 제국 후기에 보이는 로마군 이민족 화가 되었다는 것이 일반적인 통설로 여겨진다. 단, 이는 더 깊이 생각해 볼 여지가 있다. 

로마 제국 후기에 접어들어 기병의 중요성은 점점 높아지지만 적어도 3세기까지 형태로만 기병이지 상당수는 하마 보병이었으며, 4세기 때는 이와 같은 서술이 확실하게 들어맞는 시기이기는 하나 여전히 제국은 보병을 기병보다 훨씬 더 많이 운용했다. 그리고 야만족 부족 단위 계약 용병들인 포이데라티(Foederati)들은 여전히 제국 정규병들의 존재로 인해 행동을 제약당했다. 사실 애초부터 로마는 이와 같은 방식의 야만 종족 용병들의 비중이 높아질 시, 겪을 수 있는 위험을 이미 한니발과 사투를 벌이던 제2차 포에니 전쟁 시기에 경험했으며 큰 피해를 입은 기억이 있었다. 로마 시민병들보다 더욱 수가 많은 이베리아 용병들에게 의존하다가 그들이 적군의 회유에 넘어가는 상황에서 지휘관을 포함한 다수의 로마군이 죽거나 포로가 되어 참패했던 베티스 고지의 전투(Battle of the Upper Baetis)가 대표적인 사례다. 또한 하드리아노폴리스 전투(Battle of Hadrianopolis) 이전까지 포이데라티들은 개인별 혹은 소규모 단체 단위로 로마군에 입대했으며, 대규모 이민족 집단이 로마로 귀순해 오면 제국 전역으로 분산시켜 이들이 세력을 결집하는 것을 막았다. 대표적인 사례가 고향인 도나우 강 연안에서 먼 하드리아누스 성벽 인근에 배치된 사르마트족 기병들이다. 흔히 생각하는 로마군 최악의 시기는 5세기의 모습인데 대부분의 기록들은 2~5세기에서 이어지는 경과들을 단 몇 줄로 축약하였기 때문에 이와 같은 오해가 생겼다.

또한 로마인들은 칸네 전투에서 로마군이 밀집 상태에 놓여 전멸한 것을 교훈으로 삼아 기존의 마니풀라(Manipular) 방식의 전투를 개혁하였다. 로마인들은 백인대들을 분리하여 모아 정사각형을 이루게 한 뒤, 이를 한 명의 지휘관이 지휘하도록 하였으며 이는 후일 마리우스가 코호르스(Cohors)라 명명함으로써 공식화되었다. 이 코호르스의 편성으로 인해 칸네 전투와 같이 밀집되는 상황이 되면 대대장이 독자적인 판단으로 배후로 방향을 바꾸거나 전열에서 이탈하여 협공에 대비하는 형식의 유연성을 발휘할 수 있게 하여 밀집 포위에 대한 저항력을 높이게 되었다. 이처럼 시대에 맞는 개혁과 기병의 운용으로 인해 로마군은 더 강해졌으나 전장이 확대되면서 자영농인 시민들에게 군복무는 큰 부담이 되었고 결국 로마 공화정 시기의 로마군이 점점 쇠퇴하기 시작했다. 몇 년에 걸친 장기간의 해외 원정으로 인해 로마군 병사들이 해당 기간 동안 농사를 짓지 못하는 것은 물론이지만 심지어 자신들이 소유한 농토를 돌볼 수 없게 되자 자영농의 농장이 황폐화 된 것이다. 그 외에도 전쟁의 결과로 인해 다양한 방식으로 경제적으로 몰락하는 시민이 많아졌다. 처음부터 이러한 문제는 로마가 이탈리아 반도에서 대규모 확장을 시작하던 B.C 4세기경부터 서서히 나타나기 시작했으며 로마 원로원은 장기간 병역 종사로 농사를 비롯한 생계 활동을 할 수 없게 되는 경우 병사들에게 봉급을 주고 장비를 공제하는 형태로 대처했다. 

그러나 제2차 포에니 전쟁을 기점으로 10만에 가까운 병력들을 동원하는 대규모 전쟁을 장기간 치르면서 해당 체계들이 한계에 다다른 것이다. 그나마 로마 시민은 원로원이 약간의 보조라도 해주려고 노력이라도 했다. 동맹 도시 병사들은 봉급은 물론, 식량만 지급 받았으며 시민병들조차 봉급에서 무구, 갑옷, 침구, 식량 등을 공제하고 나면 남는 것이 없었다. 따라서 전쟁에 차출된 시민들의 피해는 크게 불어날 수밖에 없었고 그로 인해 군대에 투입되는 인적 자원도 고갈되어 갔다. 따라서 병력 수급을 위해 점차 징병을 위한 최소 자산 수준을 낮추는 조치가 취해졌다. 그런데 이와 같은 조치는 무산자를 소집하는 것으로서, 로마 역사상 최대의 위기였다고 할 수 있을 한니발과의 제2차 포에니 전쟁 중에서도 끝내 기피되던 것이었다. 그 이유는 당장 자산이 낮은 로마 시민들의 군대는 무장 수준이 기존보다 하락하며, 전혀 재산이 없는 무산자들은 체력적인 면에서도 빈약한 데다가 무장도 제대로 못 갖추는 경우가 많았기 때문에 로마군의 전체적인 질적 저하를 초래할 것이 당연했기 때문이다. B.C 122년 가이우스 그라쿠스가 이러한 문제를 극복하기 위해 국가에서 군복과 무기를 지급하고 이를 봉급의 공제 품목에서 제거하는 것을 기반으로 하는 법을 통과시켰지만 1년 후, 원로원의 최종 권고로 가이우스 그라쿠스와 그의 지지자들이 몰살당했다. 따라서 그라쿠스 형제들의 노력은 수포로 돌아갔다. 결국 로마는 이 대가를 크게 치르게 된다. 

보조병을 담당했던 로마의 동맹 도시들도 점점 상황이 안 좋아졌다. 원래 초창기에는 로마가 동맹 도시들에게 있어 위에 언급한 것처럼 외교권을 로마가 가지고 있는 것을 제외하고는 완전한 정치적 자치를 보장하고, 군사적인 보호를 제공했지만 가면 갈수록 동맹 도시의 자치를 인정하지 않으며 세금을 강요하기 시작했다. 또한 동맹 도시의 자치권이 보장된다 해도 동맹 도시의 시민들은 준 로마 시민이지  정식 로마 시민이 아니었기 때문에 여전히 차별했다 동맹 도시의 불만이 날이 갈수록 증가하자 로마 내에서도 개혁의 소리가 나왔다. 가이우스 그라쿠스가 라틴 시민들에게 로마 시민권을 부여해 주고 나머지 이탈리아 주민들에게 라틴인의 권리를 부여하는 법안을 제출했지만 원로원은 물론이고 로마 시민권이 주는 특혜를 공유하고 싶지 않았던 민회에서조차 이는 부결되었다. 가이우스 그라쿠스의 죽음 이후 소(小) 마르쿠스 리비우스 드루수스(Marcus Livius Drusus)가 다시 한번 개혁을 시도했다. 드루수스의 개혁안은 비교적 티베리우스 그라쿠스의 개혁 안과 비슷했는데 원로원을 달래주기 위해 토지위원회를 원로원 의원으로만 구성되게 하는 등 원로원의 심기를 불편하게 하지 않는 방향으로 진행하여 통과시켰다. 이후 B.C 21년 가이우스 그라쿠스가 제출했던 동맹 도시 시민들에 대한 로마 시민권을 부여하는 법안을 다시 제출했다. 

모든 이탈리아 내 자유민에게 로마 시민권을 주자는 이 법안은 반대파 원로원 의원들은 원로원 1인자 마르쿠스 아이밀리우스 스카우루스(Marcus Aemilius Scaurus)를 비롯해 원로원 의원 중 적지 않은 수가 드루수스를 지지하자 그를 암살하는 방법으로 이를 무산시켰다. 이렇게 되자 동맹 도시들은 호민관을 통한 법안 제출과 통과라는 정상적인 방법으로는 더 이상 자신들의 권리를 보장받을 수 없다는 확신을 가지게 되었고 즉각 전쟁을 시작한다. 이것이 B.C 91년부터 B.C 88년까지 벌어진 동맹 도시 전쟁이다. 초반에 고전을 면치 못했던 로마는 마리우스와 술라의 활약으로 동맹 도시 전쟁에서 승리하였지만 동맹 도시들의 불만을 잠재우기 위해 로마 시민권을 부여해 주기로 하였다. 위에 언급한 요인들이 결합한 결과 공화정 말기 때 로마군은 총체적인 위기를 맞게 되었다. 스페인에서 벌어진 누만티아(Numantine) 전투에서 로마군은 대패하였고, 킴브리(Cimbri)족과 테우토네스(Teutones)족의 남하를 저지하려고 보낸 두 명의 집정관은 전사했으며, 아라우시오 전투에서는 로마군 8만 명이 전멸당했다. 유구르타 전쟁에서도 누미디아 인을 상대로 계속 고전하였다. 이러한 상황에 등장한 가이우스 마리우스는 또다시 시대에 맞는 개혁을 함으로써 로마 공화국을 위기에서 구하게 된다. 로마 공화국 말기의 명장이자 정치인 가이우스 마리우스(Gaius Marius)가 B.C 107년부터 B.C 101년까지 로마군의 군사 체계를 획기적으로 바꿨다고 알려진 개혁이 로마의 군제 개혁이다.