Der heilige Augustinus gründete drei Klöster: nach seiner Taufe eine klösterliche Gemeinschaft auf dem Landgut seines Vaters in Thagaste (im heutigen Algerien), nach seiner Priesterweihe das so genannte Gartenkloster in Hippo Regius (an der heutigen algerischen Mittelmeerküste) auf einem Grundstück, das ihm der dortige Bischof Valerius zur Verfügung stellte, und nach Übernahme des Bischofsstuhls von Hippo Regius in seinem Bischofshaus gemeinsam mit den Priestern seiner Bischofsstadt. Auf letzteres geht der Orden der Augustiner Chorherren zurück.
Augustinus schrieb eine Ordensregel, die sehr rasch in Europa Verbreitung fand und die sich durch die Geschichte hindurch mittels Ergänzungen (Konstitutionen) an die örtlichen und zeitlichen Erfordernisse sehr anpassungsfähig erwies.
Immer wieder versuchten Bischöfe, ihren Klerus zu einem gemeinsamen Leben zu bewegen, um sich so ohne Eigenbesitz und ehelos ganz dem priesterlichen und seelsorglichen Dienst widmen zu können. (z.B.: Eusebius von Vercelli, + 371, Chrodegang von Metz, + 766)
816 berief Kaiser Ludwig der Fromme eine Synode nach Aachen ein, die die „Aachener Regel“ herausgab und damit die Lebensweise der Chorherren (Kanoniker) genau festlegte und einen klaren Trennstrich zwischen den beiden großen Strängen des abendländischen Ordenslebens zog: den Kanonikern, bei denen sich die Regel des heiligen Augustinus durchsetzte, und den Mönchen, bei denen die Regel des heiligen Benedikt die bedeutendste wurde.
Durch die „Gregorianische Reform“ (benannt nach Papst Gregor VII., 1073 – 1085, die aber schon davor ihren Anfang nahm: Römische Synode 1059) versuchte man die Disziplin und die Bildung des Klerus zu heben. Dabei richtete man besonderes Augenmerk auf die persönliche Besitzlosigkeit und das gemeinsame Leben der Priester. Der Chorherrenorden erwies sich für diese Reform als besonders geeignet. Im 11./12. Jahrhundert hat sich der Orden der Augustiner Chorherren durch die Reform bestehender Gemeinschaften im Süden Europas und die Neugründung und Stiftung von Klöstern im Alpenraum und nördlich der Alpen so entwickelt, wie wir ihn heute kennen. Auch viele Domkapitel nahmen die Lebensweise nach der Augustinusregel an (z.B.: Salzburg).
Großen Einfluss gewannen die Augustiner Chorherren im 14. Jahrhundert im Zuge der „Devotio moderna“, einer Erneuerungsbewegung, die einen persönlichen Weg zu Gott in Gebet und Meditation auftun wollte. (Thomas von Kempen, „Raudnitzer Reform“)
Der Reformation im 16. Jahrhundert, den Klosteraufhebungen durch Kaiser Joseph II. im 18. Jahrhundert und der Säkularisation Anfang des 19. Jahrhunderts fielen viele Chorherrengemeinschaften zum Opfer.
Im ausgehenden 19. und beginnenden 20. Jahrhundert schlossen sich einzelne Chorherrengemeinschaften zu Kongregationen zusammen (z.B.: die Österreichische Kongregation 1907).
Genau 900 Jahre nach der Römischen Synode 1059 (siehe oben) gründeten 1959 die unterschiedlichen Kongregationen die Konföderation der Augustiner Chorherren, der heute neun Kongregationen angehören und die als Dachverband dieser Kongregationen verstanden werden kann. So weiß sich der Orden der Augustiner Chorherren „in Einheit mit der Universalkirche“, er unterstützt das Leben, die Pläne und die Anliegen der Gesamtkirche und „wirkt so am Aufbau des ganzen mystischen Leibes Christi und am Wohl der Teilkirchen mit.“ (Konstitutionen der Österreichischen Augustiner Chorherren-Kongregation)