考古發現表明，我國最早使用類似混凝土的是秦安大地灣F901廳遺址，建築的主室是類似現代水泥的地面，由集料石和砂巖構成。這是世界上最古老的用古羅馬人用火山灰制成的水泥制成的混凝土，是中國最早的“混凝土”地面。
水泥以前叫“水泥”，英文是“水泥”，直譯是“細棉田”。
中國最早的水泥廠是1889。清政府李鴻章批準開平礦務局總經理唐在唐山創辦水泥廠，名為“唐山細棉土廠”，於1892建成投產。1906年，北洋大臣袁世凱命周從英重新辦，改名啟新石灰公司。1907，唐山精細綿土廠更名為“唐山啟新石灰有限公司”。水泥商標指定為“龍馬負太極圖”品牌(俗稱“馬牌”)。馬牌水泥是中國最早的品牌。