Αναφέρθηκαν συγκεκριμένα στη Γερμανία στα τέλη του 19ου αιώνα από τον καπετάνιο Max von Stephanitz, ο οποίος στόχευε στη δημιουργία ενός ευπροσάρμοστου σκύλου εργασίας. Η φυλή ονομάστηκε αρχικά "Alsatian Wolf Dog" και αργότερα έγινε γνωστός ως "Γερμανός ποιμενικός σκύλος".
Ενώ το όνομα της φυλής μπορεί να οδηγήσει μερικούς να πιστεύουν ότι προέρχονται από τη Γερμανία, ονομάζονται πράγματι από τη χώρα καταγωγής τους.