Nejstarší zmínky o původu odrůdy Rulandské šedé sahají až do 14. století. Pravlastí byla zcela jistě Francie – možná Burgundsko, ale nejvíce rozšířené bylo pěstování této odrůdy v oblasti Champagne. Z Francie se Rulandské šedé rozšířilo do Německa a pak do dalších zemí střední Evropy.
Je velmi pravděpodobné, že do Čech nechal Rulandské šedé dovézt Karel IV., takže se tato odrůda u nás pěstovala již od 15. století, avšak souvislé výsadky vznikaly až po roce 1910. V Maďarsku se Rulandské šedé nazývá Szürkebarát, což v překladu znamená šedý mnich – podle mnichů cisterciáků, kteří na přání Karla IV. vysadili tuto odrůdu u Balatonu.
Odrůda Rulandského šedého pravděpodobně vznikla z pupenové mutace Rulandského modrého. Rulandské modré dosti často vytváří pupenové mutace, což znamená, že na jednom keři rostou jak modré, tak šedé hrozny, a dokonce můžeme najít i dvoubarevné hrozny a bobule. Oddělením části keře se šedými bobulemi právě vzniklo Rulandské šedé.
V Německu v roce 1711 nalezl Johann Seger Ruland ze Speyeru několik keřů ve zpustlé zahradě ve Falci a dále je množil a rozšiřoval. Od té doby nese tato odrůda jeho jméno v Německu, ale i v Čechách, přestože se u nás prokazatelně pěstovala již za dob Karla IV.
Do Státní odrůdové knihy České republiky byla od roku 1941 až do roku 1993 zapsána tato odrůda pod názvem Burgundské šedé, po roce 1993 již s názvem Rulandské šedé. Název odrůdy byl změněn z rozhodnutí soudu v Haagu dle mezinárodní lisabonské dohody na ochranu značení původu a kvůli tehdejšímu nesouhlasu vinařské veřejnosti, jelikož odrůda je v celém vinařském světě známa právě jako Pinot Gris čili Rulandské šedé. V České republice je na etiketě povoleno uvádět i název Pinot Gris.
Mezinárodní název “Pinot” pochází z francouzského “pin” tedy borovice, pinie. Hrozen je poměrně malý, velmi celistvý a svým vzhledem tak připomíná právě šišku borovice pinie. Přídomek “gris”, česky “šedý” označuje barvu bobulí.