东魏北豫州刺史高仲密举成皋入附，太祖率军应之，别遣仲遵随于谨攻柏谷坞。仲遵力战先登，擒其将王显明。柏谷既拔，复会大军战于邙山。十三年，王思政改镇颍川，以仲遵行荆州刺史事。十五年，加授大都督，俄进车骑大将军、仪同三司。梁司州刺史柳仲礼每为边寇
