Ο Άγιος Ιωσήφ, Επίσκοπος της Αλαβέρδας, είναι ένας από τους δεκατρείς Αγίους Σύριους (Καππαδοκούς) πατέρες, τους ιδρυτές του γεωργιανού μοναχισμού (που τιμάται στις 7 Μαΐου). Αυτός, ως το" λουλούδι της πολυπόθητης παρθενίας", επέλεξε τη μοναστική παρτίδα από νεαρή ηλικία. Έχοντας έρθει στη γεωργία με τον δάσκαλό του, τον Άγιο Ιωάννη της Ζεδαζνίας (7 Μαΐου), ο Άγιος Ιωσήφ εγκαταστάθηκε στην Καχέτι στην έρημη και άγονη στέπα Αλαβέρντι. Εδώ ξεκίνησε τα ασκητικά του κατορθώματα. Η πνευματική του δύναμη ήταν τόσο μεγάλη που ακόμη και τα άγρια ζώα δεν τον άγγιξαν και τα ελάφια της στέπας ήρθαν σε αυτόν και τον τάισαν με το γάλα τους.
Ένας από τους ευγενείς της Καχετίας βρέθηκε στη στέπα Αλαβέρντι κατά τη διάρκεια ενός κυνηγιού και ήταν τόσο έκπληκτος που είδε τον Άγιο Ιωσήφ να στέκεται στην προσευχή που έμεινε μαζί του.
Η φήμη για τον τόνο αυτού του ευγενή και για την ιερή ζωή του Αγίου Ιωσήφ εξαπλώθηκε σε όλο το Καχέτι. Οι ζηλωτές της ευσέβειας και της ασκητικής ζωής άρχισαν να συρρέουν στον Άγιο Ιωσήφ στη στέπα του Αλαβέρντι. Έτσι δημιουργήθηκε το μοναστήρι και χτίστηκε ένας ναός προς τιμήν του Αγίου Γεωργίου του Μεγάλου Μάρτυρα.
Εκλεγμένος ηγούμενος της μονής, ο Άγιος Ιωσήφ φρόντισε τους αδελφούς της μονής και την πνευματική διαφώτιση της Καχέτης με πατρική αγάπη. Οι παγανιστικές δεισιδαιμονίες δεν είχαν ακόμη εξαλειφθεί και ο Άγιος Ιωσήφ, με ένα σταυρό στα χέρια του, συχνά άφησε τη μοναξιά του μοναστηριού και πήγε να κηρύξει το Λόγο του Θεού.
Ο λαός του Καχέτι, βλέποντας την ιερή και άψογη ζωή του Αγίου Ιωσήφ και την ειλικρινή του επιθυμία να τους υπηρετήσει, δέχτηκε πρόθυμα και χαρούμενα τη διδασκαλία του Ευαγγελίου, εγκατέλειψε την απιστία και τα ειδωλολατρικά έθιμά του.
Ο Άγιος Ιωσήφ συνέταξε μια κατήχηση (χαμένη τον 16ο αιώνα), σύμφωνα με την οποία δίδαξε το ποίμνιο που του είχε ανατεθεί. Αφού ολοκλήρωσε την υψηλή διακονία του στο τέλος της ζωής του, ο Άγιος Ιωσήφ κλείστηκε σε ένα στενό κελί για πλήρη σιωπή.
Το 570, ακολούθησε ο Ειρηνικός και ευτυχισμένος θάνατός του. Ο Άγιος Ιωσήφ θάφτηκε στην εκκλησία του Αγίου Γεωργίου του Μεγάλου Μάρτυρα στο Αλαβέρντι.
Τον 9ο αιώνα, ο μεγαλοπρεπής καθεδρικός ναός της Αλαβέρντα ανεγέρθηκε στη θέση του πρώην ναού, στον οποίο το σώμα του Αγίου Ιωσήφ στηρίζεται κάτω από ένα μπούσελ στα αριστερά του βωμού, στον βόρειο τοίχο.