W kwaterze wojennej nr 21 na Nowym Cmentarzu znajdują się dwie mogiły zbiorowe żołnierzy Wojska Polskiego zamordowanych przez hitlerowców w 1939 r. Według informacji zawartych na tablicy przy bramie głównej cmentarza w mogile nr 1 pochowanych jest 68 ofiar, a w mogile nr 2 - 45 osób. Zbigniew Zięba w książce pt. „Jarosławskie Cmentarze" podaje, że informacje te są prawdopodobnie nieścisłe.
Obecnie mogiły otoczone są wysokim, betonowym obramowaniem, centralnie na mogiłach ustawione są metalowe krzyże. Nowa koncepcja zakłada ogrodzenie kwater ozdobnymi słupkami oraz ogrodzeniowym łańcuchem dekoracyjnym. Wewnątrz powierzchnia kwater ma być wyłożona kostką brukową. W centrum zostaną umieszone, pod lekkim skosem, czarne płyty kamienne, na których znajdą się napisy. Za płytą napisową umieszczony zostanie krzyż - odlany z żeliwa i rzeźbiony w odpowiedniej stylistyce. Na dole zostanie wyrzeźbiona data „1939". Obecnie opracowywany jest projekt.