Grzyb rozpoczął karierę poselską w Sejmie kontraktowym, wyłonionym w wyniku wyborów 4 czerwca 1989 r. Zasiadał w nim z ramienia Zjednoczonego Stronnictwa Ludowego.
W tegorocznych wyborach był "jedynką" na wielkopolskiej liście PSL.
Był wybierany do Sejmu II, IV, V i VI kadencji.
W wyborach w 2007 r. uzyskał w okręgu kalisko-leszczyńskim 15 tys. 640 głosów, dystansując kolejnych kandydatów z listy o ponad 10 tys. głosów.
W Sejmie V kadencji był zastępcą przewodniczącego Komisji ds. Unii Europejskiej.
Zasiadał w parlamentarnym zespole strażaków, należy do Kurkowego Bractwa Strzeleckiego w Ostrzeszowie.
Grzyb jest absolwentem Akademii Rolniczej i Wyższej Szkoły Bankowej w Poznaniu. Mieszka w podostrzeszowskiej wsi Siedlików, na Ziemi Kaliskiej.
"Silna gospodarka i chrześcijańskie dziedzictwo kulturowe" - tak widzi przyszłość Polski w UE nowy europoseł.
Grzyb doskonale włada językiem niemieckim. (PAP)