Олег Янковский родился в дворянской семье 23 февраля 1944 года в городе Джезказгане Карагандинской области (Казахстан). Его отец Иван Павлович, бывший штабс-капитан лейб-гвардии Семеновского полка, происходил из польских дворян. Он был близко знаком с Тухачевским, за это и поплатился. По сфабрикованному обвинению отца арестовали, и он сгинул в сталинских лагерях. Мать Олега, Марина Ивановна, опасаясь ареста, сожгла все архивы семьи. Не уцелела ни дворянская грамота, ни Георгиевский крест Ивана Павловича.