汉白玉主要成分是碳酸钙，它是一种化合物，化学式是CaCO3。基本上它并不溶于水。它可存在于以下形态：霰石、方解石、白垩、石灰岩、大理石、石灰华。可于岩石内找到。动物背壳和蜗牛壳的主要成份。同时，它还是重要的建筑材料。汉白玉质地坚硬洁白，石体中泛出淡淡的水印，俗称汗线，故而得名汉白玉。
洁白纯净的碳酸钙岩石叫做汉白玉。它主要由CaCO3、MgCO3和SiO2组成，也包含少量Al2O3、Fe2O3等成分。材质参考参数有：白度、光泽度、抗压强度，抗折强度、肖氏硬度、吸水率、密度等方面。一般认为它是在受岩浆热液作用影响下，使碳酸盐地层产生程度不同的热液变质和动力变质作用条件下形成 的沉积变质矿床。汉白玉就是纯白色的大理石，是一种石灰石形态。
汉白玉通体洁白，也用于雕刻佛像等，西方从古希腊时代就用白色的大理石作为人像雕刻材料。 从中国古代起，就用这种石料制作宫殿中的石阶和护栏，所谓“玉砌朱栏”，华丽如玉，所以称做汉白玉。天安门前的华表，金水桥，宫内的宫殿基座，石阶，护栏都是用汉白玉制作的。