В национальном отношении армия комплектовалась таким образом, чтобы ни у одного народа не было существенного преобладания. Во второй половине V века наиболее эффективными считались солдаты из Исаврии, горной области в Малой Азии. Традиционно наиболее бое частью армии были федераты, которые в этот период начинают набираться не только из варваров, но и из римлян. Прокопий Кесарийский отмечает это изменение в связи с Вандальской войной 533 года, однако точные временные рамки этого процесса не известны. Также Прокопий сообщает, что в его время смысл понятия «федераты» изменился по сравнению с однако в чём именно это проявилось он не поясняет. Некоторые пояснения о статусе федератов даёт законодательство Юстиниана. Из него следует, что федераты были регулярными войсками, такими как схоларии и комитаты. Федераты были объединены в тагмы (др.-греч. τάγματα), которыми командовали римские офицеры. В административном отношении федераты подчинялись чиновникам, выплачивающим им жалование . Готским федератам было разрешено исповедовать арианство, в целом запрещённое в империи.
В отличие от федератов, чья национальная принадлежность не устанавливалась, существовали ещё подразделения симмахов (др.-греч. σύμμαχοι), формировавшиеся исключительно из «союзных» варваров. Ещё одной возможностью для неримлян наняться на военную службу было поступить в букелларии, личную стражу крупных военных или гражданских деятелей. Об этом виде войска известно конца IV века[53]. Такие частные армии были официально разрешены, поскольку букеларии приносили присягу не только своему работодателю, но и императору. Юстиниан формировал этнические подразделения и из военнопленных и вражеских дезертиров. Количество букелариев зависело только от богатства их нанимателя. Известно, что у чрезвычайно богатого Велисария в какой-то момент времени их было 7000, тогда как Нарсес довольствовался 400. Букелариями могли быть и граждане империи. Крупные их формирования, такие как у Велисария, имели достаточно сложную структуру
