中国私家园林假山很可能与皇家园林假山起源于同一时代但是从已知的历史文献中，人们了解到在汉代有梁孝王的免园，大富豪袁广汉的私园。这类私家园林均是仿皇家园林而建，只是规模较小，内容朴实。魏晋南北朝时期，中国社会陷入大动荡，社会生产力严重下降，人口锐减，人民对前途感到失望与不安，于是就寻求精神方面的解脱，道家与佛家的思想深入人心。此时士大夫知识分子转而逃避现实，隐逸山林，这种时尚必然体现在当时的私家园林之中，其中的代表作有位于中国北方洛阳的西晋大官僚石崇的金谷园和中国南方会稽的东晋山水诗人谢灵运的山居。两者均是在自然山水形基础上稍加经营而成的山水园。