中华人民共和国成立后，为了解决城市中的就业问题，从50年代中开始就组织将城市中的年轻人移居到农村，尤其是边远的农村地区建立农场。早在1953年《人民日报》就发表社论《组织高校毕业生参加农业生产劳动》。1955年毛泽东提出“农村是一个广阔的天地，在那里是可以大有作为的。”成为后来知识青年上山下乡的口号。从这一年开始共青团开始组织农场，鼓励和组织年轻人参加垦荒运动。

1962年开始有人提出要将上山下乡运动全国化地组织起来，1964年，中共中央为此特别设立了一个领导小组。

1966年，在文化大革命的影响下高考停止，到1968年为止许多中学毕业生即无法进入大学，又无法被安排工作，此外66至68年文化大革命的动乱使得中央识到需要寻找一个办法将这批年轻人安置下来，以免情况失去控制。

1968年12月22日《人民日报》发表了题为《我们也有两只手，不在城里吃闲饭》的文章，其中引用了毛泽东“知识青年到农村去，接受贫下中农的再教育，很有必要……”的指示，1969年许多年轻人因此下乡去农村。全国也开始有组织地将中学毕业生分配到农村去。

从1971年开始，知识青年在农村的许多问题开始不断暴露出来，同时中共开始在城市中将部分工作分配给下放的知识青年。不过这样回到城市中的知识青年大多数是通过关系得到回城的机会的。到1976年连毛泽东也感觉到知识青年问题的严重性并决定对这个问题重新做考虑。但到这时为止每年依然有上百万知识青年被分配上山下乡。毛泽东的逝世使知识青年问题暂时被搁置。

1977年高考被恢复，大多数在农村的知识青年想方设法要回到故乡去。1978年冬在云南的知识青年以请愿和罢工的形式来将他们的要求表达出来，再次使的中央感觉到问题的急迫性。1980年5月8日，胡耀邦提出不再搞上山下乡，10月1日中央基本上决定过去下乡的知识青年可以回故乡城市。

从50年代到70年代末上山下乡的知识青年的总数的估计在约1200万至1800万之间。