北魏太和十七年(493年),于谨出生,河南洛阳人。少年时代的他性情深沉,颇有见识,而且度量过人。喜好读经史书籍,尤其爱好《孙子兵法》。他早年隐居在乡里,没有做官出仕的志向。有人勉励他,于谨说:“州郡级别的官职,是前人所鄙