Ovčáci podobní belgickým ovčákům se v Evropě vyskytovali již kolem roku 1650. Byli to středně velcí psi, odolní a přizpůsobiví drsným podmínkám, nenároční na stravu, dychtiví pracanti. Jejich úkolem bylo přesouvání stád a ochrana dvora. Psi se vyznačovali špičatým čenichem, špičatýma ušima a krátkou srstí v obličeji. Jejich zbarvení a srst byly proměnlivé.

Podobní psi se vyskytovali i na území Belgie, ovšem nikdo o nich nemluvil jako o belgických ovčácích. Nebyli ještě považováni za plemeno. Obrat přinesl rok 1891, kdy několik přátel ovčáckých psů vytvořilo v Bruselu spolek pro čistokrevný chov tamějších psů pod názvem "Club du chien de berger belge". Tento klub byl od doby svého založení až po dnes registrován a podporován Societé Royale Saint Hubert.

První akcí klubu bylo shromáždění 117 ovčáků na "výstavě" v areálu veterinární školy v Cureghemu. Tam profesor Reul vytyčil znaky plemene: tři varianty srsti - dlouhosrstá, hrubosrstá, krátkosrstá a zbarvení černá, tmavošedá, hnědě žíhaná s a nebo bez tmavěžlutých odznaků a také kalně šedobílá; ucho vzpřímené, výška v kohoutku 55 cm. Stanoveným znakům odpovídalo 40 psů, kteří byli vytipováni jako vhodní k dalšímu chovu, mezi nimi bylo sedm černých, dlouhosrstých. Profesor Reul také doporučil mezi sebou spojovat psy se stejným druhem srsti, nehledě k jejich barvě. V roce 1895 byla dovolena už jen černá barva pro dlouhosrsté, červenohnědá pro krátkosrsté a šedá pro hrubosrsté. Z chovu bylo proto v samých počátcích vyloučeno velké množství cenných jedinců, kteří neodpovídali novým normám. Jejich majitelé si založili vlastní klub a poctivě produkovali psy ve všech odstínech hnědé, šedé a černé. Změna standardu způsobila sloučení obou klubů a nadále se belgičáci chovali v následujících variantách:

groenendael - černý, dlouhosrstý
laekenois - šedý nebo červenohnědý, hrubosrstý
malinois - červenohnědý, krátkosrstý
tervueren - červenohnědý, dlouhosrstý

Já jsem GROENENDAEL, a jsem na to hrdý

Jméno GROENENDAEL vzniklo podle městečka stejného názvu, které bylo zpočátku centrem chovu dlouhosrstých černých belgických ovčáků. I když se později centrum chovu přesunulo do obce Binhe, kde působila chovatelská stanice Mont-Sava, jméno již varietě zůstalo.

Kolem roku 1879 koupil chovatel ovcí Beernaerts Uccle jednoho psa a dal mu jméno Piccard d´ Uccle. Tímto Piccardem nechal zámecký hospodář Rose krýt svou černou dlouhosrstou fenu ovčáka Petite. Ze spojení Piccarda a Petite se narodil DUC DE GROENENDAEL, černý pes s širokým bílým límcem, středně velký, elegantní, pyšný pes, ideální představitel požadovaných znaků v té době. Sourozenci Duce byli Pitt, Baronne, Margot a Berger. V roce 1898 byl Duc a Margot vystaveni a posouzeni profesorem Reulem. Fena Baronne byla krytá svým otcem Piccardem, spolu byli také spojeni sourozenci Duc a Margot. Chovatel Smets odchoval dokonce celkem 30 psů po Mirze (sestra Duce z pozdějšího vrhu) a Carlovi (Piccard x Nette).

Já jsem TERVUEREN, a jsem na to hrdý

Majitel zakládajících jedinců, pan F.Corbeel žil v městě Tervueren, od nějž vzešlo jméno variety. Pan Corbeel měl psa a fenu, ve zbarvení tmavý mahagon, s černými konečky chlupů (dnes se tyto konečky nazývají charbonáží) a dlouhou srstí. Jmenovali se Tom a Poes.

V roce 1985 se narodila z jejich spojení fena Miss. Ta byla kryta černým dlouhosrstým Ducem a z jejich spojení se narodil později hojně využívaný hnědočervený pes Milsart, o kterém odborníci v té době hovořili jako o prototypu plemene.

Tervuereni tedy pocházejí ze čtyř psů: Piccarda d´ Uccle a Petite (rodiče Duc de Groenendael) a Tom a Poes (rodiče Miss).