认识和理解当代中国的基层治理，需要了解传统中国在基层社会治理方面的特点。我国自秦汉开始推行郡县制，中央政府可以一直管理到全国各个县。县以下的基层社会主要由建立在家庭和扩大家庭基础上的共同体所组成，大都实行自治，乡绅、年长者等在管理当地公共事务中发挥着重要作用。这种以血缘关系为纽带、建立在家族或宗族基础上的治理方式，有利于村民共同参与管理公共事务。
辛亥革命推翻了清朝政府，结束了在中国延续几千年的君主专制制度，传统中国的基层治理方式也随之瓦解。面对当时“一盘散沙”的状况，无数仁人志士尝试了各种方案，但都未能成功。其根本原因在于这些方案都脱离了人民群众，不能将中国广大的基层社会与整个国家连成一体，也未能建立起具有中国特色、适合中国国情、符合现代社会发展方向的新型基层治理体系。
我们党自成立之初就非常重视基层建设和基层治理。在新民主主义革命时期，毛泽东同志在江西省永新县三湾村对部队进行改编，将党的支部建在连上，推动党的组织向基层、向一线扎根，发挥战斗堡垒作用。随着革命深入开展，我们党开辟了农村包围城市、武装夺取政权的道路，在革命根据地的广大农村基层，建立党支部和基层组织体系，广泛联系农村、农民，在根据地实现了政权建设与基层社会的紧密联结，有效解决了“一盘散沙”的治理难题。