Γεννήθηκε κατά τον 3ο αιώνα και προερχόταν από την περιοχή της Σκυθίας. Πατέρας του υπήρξε ένας ευσεβής στρατιωτικός χριστιανός ο Γορδιανός, που πέθανε όταν ο Μερκούριος ήταν σε νεανική ηλικία.  Τότε κατετάγη στο ρωμαϊκό στρατό (την εποχή του Αυτοκράτορα Δεκίου [249-251]). Εντάχθηκε στο τάγμα των Μαρτησίων και γρήγορα ανελίχθηκε σε ανώτερα αξιώματα καθώς σε μία μάχη είτε κατατρόπωσε ένα πολυάριθμο αντίπαλο στράτευμα<ref>Ε. Λέκκος, Στρατ. Μεγαλομάρτυρες, σελ. 26</ref>, είτε σκότωσε τον αντίπαλο στρατηγό<ref>Ε. Λέκκος, Αγιολόγιο..., σελ. 1048</ref>. Τη μεγάλη αυτή επιτυχία ο αυτοκράτορας θέλησε να την εορτάσει μαζί με τους στρατηγούς του, εν μέσω αυτών και ο Μερκούριος. Ο Μερκούριος όμως προφασιζόμενος κάποιο πρόβλημα απέφυγε την κλήση του Αυτοκράτορος. Τότε τον διέβαλαν ότι ήταν χριστιανός και ο ίδιος πλέον με παρρησία δεν απαρνήθηκε τη θρησκευτική του ταυτότητα. Ήταν τότε ''"ετών κε᾽'' [25], ''ευήλιξ'' [με αγέρωχη κορμοστασιά], ''ωραίος, τω είδει ροδινός, τη οράσει ξανθόκομος'' [ξανθά μαλλιά]"''<ref>Acta Sanctorum, Nov. Propylaeum, ''Synaxarium Ecclesiae Constantinopolitanae'', σελ. 257.</ref>.