Головним типом військ причорноморських сарматів була легка кіннота. Сармати, які були вправними вершниками, мали на озброєнні не лише лук та стріли, але і мечі, кинджали та важкі списи. Знать складала важку кінноту. За Тацитом у «ватажків та всієї знаті» сарматів, які напали 69 р. н. е. на Нижню Мезію, були панцирі «з залізних пластин або дуже товстої шкіри». Сармати рідко поставали перед ворогами пішими. Вони завжди були на конях. «Дивовижно, що вся доблесть сарматів лежить ніби поза ними самими. Вони вкрай боязкі в пішому бою; але, коли з'являються кінними загонами, навряд чи який стрій може їм опиратися» (Тацит).

У цілому сарматський період в історії військової справи — це час, коли зростає значення важкоозброєної кінноти і прийомів ближнього бою. Основу війська ранніх сарматів складали легкоозброєні кінні стрільці, одягнені в шкіряні лати і шоломи. Але вже в середньосарматський період військова перевага була забезпечена дружинами важкоозброєнних вершників. Чисельність таких загонів і їхня роль у війську сарматів постійно зростали. Захищений панциром з металевих або рогових пластинок і конічним шоломом, знатний воїн сарматів перекидав супротивника списом і добивав його довгим мечем вершника. Своїх коней «лицарі» сарматів теж одягали в спеціальну збрую. Довгі мечі сармати носили на лівому боці, а на правому — короткі кинджали, схожі на скіфський акінак. У сагайдаках з поховань сарматів археологи іноді знаходять по декілька сотень вістер стріл.