20世纪80年代，他将手中的闲钱全部投入到收藏中去，主要收藏字画，他的收藏路也是不一帆风顺，张汝教也买过一些赝品，付出学费。他的夫人马玉芳给了他最大的支持，从不埋怨，经过他多年研究学习，他练就了一双识别字画的好眼力。他的收藏一靠与书画家交朋友，直接得到。二从市场获得，拍卖会预展上如果看到价格合理的精品，他总是积极参与。一次银川的拍卖会他看中一幅书法家沈鹏的4尺草书中堂陶渊明《归田园居》。拍卖会上他经过与几个竞投者轮番叫价，最后拍得这幅草书，后经多位专家鉴定，一致认为是深鹏的书法精品。迄今为止张汝教收藏的名家书画已达百余幅，有李可染、虚谷、齐白石、越朴初、朱屺瞻、江寒汀、陈之佛、李苦禅、来楚生、何海霞、应野平、董寿平、左宗棠等著名书画家作品。

张汝教是宁夏收藏家协会常务理事。前不久，宁夏回族自治区党委宣传部、文化厅、文联等单位主办的“《张汝教名家书画珍藏集》出版发行仪式”在宁夏政协会议厅隆重举行。《珍藏集》中展示了他收藏的全国名家40余幅精品。