Οι Γερμανικοί Ποιμενικοί αναπαραγώγησαν αρχικά στη Γερμανία, άρα το όνομά τους. Αναπτύχθηκαν στα τέλη του 19ου αιώνα στη Βυρτεμβέργη, συγκεκριμένα στην πόλη Πфорτσάιμ (Pforzheim).
Ο Καπετάν Μαξ φον Στεφανίτζ (Captain Max von Stephanitz) δημιούργησε τη φυλὴ για να αναπτύξει εργατικό σκύλο για ποιμενισμό, φύλαξη, και στρατιωτική υπηρεσία. Επέλεξε σκύλους για νοημοσύνη, υπακοή, και πίστη.