В 317 году он был провозглашён цезарем вместе со своим сводным братом Криспом. В 323 году участвовал в походе против сарматов, получив титул «Сарматский Величайший». В 326 году после казни Криспа он был номинально назначен командиром галльских легионов. По-видимому, Константин одержал победу над алеманнами, так как прозвище «Алеманнский» появляется на его надписи в 328 году. В332 году Константина послали командующим на Дунай воевать с вестготским правителем Ариарихом в ответ на просьбу сарматских и вандальских племён, для которых тот представлял угрозу. Римское войско одержало серьёзную победу, нанеся тяжкие потери варварам и захватив многочисленных пленных, в том числе и сына вождя. В 333 году Константина II перевели в Августу Тревиров охранять рейнскую границу. До 335 года Константин был женат, но имя его жены неизвестно.

В годы, предшествовавшие смерти отца, занимал положение судьи в Галлии. После смерти отца и убийства двоюродных братьев получил при разделе империи галльскую префектуру. В результате спора, возникшего у Константина из-за обладания Африкой и Италией с братом Константом, разгорелась война. В битве при Альзе, близ Аквилеи в 340 году, Константин проиграл сражение и погиб. Он был предан проклятию памяти.