清明最早只是一种节气的名称，其变成纪念祖先的节日与寒食节有关。寒食节是中国古代较早的节日，传说是在春秋时代为纪念晋国的忠义之臣介子推而设立的。其实，从历史的实际来看，禁火冷食主要反映了中国古人改火习俗的遗迹。原始社会，先民们钻木取火，火种来之不易，取火的树种往往因季节变化而不断变换，因此，改火与换取新火是古人生活中的一件大事。春三月正值改火的时节，人们在新火未到之时，要禁止生火。汉代称寒食节为禁烟节，因为这天百姓人家不得举火，到了晚上才由宫中点燃烛火，并将火种传至贵戚重臣家中。
寒食节期间的习俗，主要有禁火冷食和后来成为清明节主要内容的祭扫坟墓。中国古人对祭祀祖先十分重视。上古时候，家中有人去世时，只挖墓坑安葬，不筑坟丘标志，祭祀主要在宗庙进行。后来在挖墓坑时还筑起坟丘，将祭祖安排在墓地，便有了物质上的依托。战国时期，墓祭之风逐渐浓厚起来。
秦汉时代，祭扫坟墓的风气更盛。据《汉书》记载，大臣严延年即使离京千里，也要定期还乡祭扫墓地。在唐代，不论士人还是平民，都将寒食节扫墓视为返本追宗的仪节，由于清明距寒食节很近，人们还常常将扫墓延至清明。诗人们的作品，也往往是寒食、清明并提，如韦应物有诗句说：“清明寒食好，春园百卉开。”白居易也有诗句说：“乌啼鹊噪昏乔木，清明寒食谁家哭。”朝廷鉴于民间寒食、清明并举已相沿成习，就以官方文书的形式正式规定，清明到来时，可以与寒食节一起放假。这项规定距今已经1200多年，说明从那时起清明开始具有某种国家法定节日的色彩。
宋元时期，清明节逐渐由附属于寒食节的地位，上升到取代寒食节的地位。这不仅表上坟扫墓等仪式多在清明举行，就连寒食节原有的风俗活动如冷食、蹴鞠、荡秋千等，也都被清明节收归所有了。