La biografía de sus primeros años puede despistar, ya que su entorno fue más conservador que de izquierdas. Su padre era un piloto de Iberia que voló con el bando nacional y Rubalcaba, de niño, fue monaguillo. Acudía para ayudar en misa al convento de las Carmelitas de las Descalzas en El Escorial.
