Олег Алексеевич Рыжков родился 26 августа 1954 года в городе Мичуринске Тамбовской области. Закончил среднюю школу № 2 в 1971 году, Всесоюзный заочный институт инженеров железнодорожного транспорта в 1978 году, Ростовскую высшую партийную школу в 1989 году.
С 1971 по 1983 года работал на Мичуринском локомотиворемонтном заводе слесарем, мастером, старшим мастером, начальником техбюро цеха, заместителем главного технолога завода.