马赛克的运用发源于古希腊。最早因为技术等的原因，只是单纯使用黑色和白色进行搭配组合，这在当时的统治阶级里非常流行，因为它有很好的视觉效果，到了后来，为了更多元化地丰富作品，有人尝试着利用更小的碎石片，或自己切割小石头来完成一幅马赛克。

数百年之后，马赛克慢慢变得很普遍，一般民宅及公共建筑的地板、墙面也开始它来装饰，特别是到了罗马时期，罗马繁荣富裕的社会经济，使得马赛克的运用得到空前的发展，也使得古罗马建筑变得非常豪华。

当然，马赛克的黄金时期是随着基督教的发展而发展的，在基督教早期，因为不被认可，大量的教徒受到迫害，于是他们大量地涌入地下室躲避聚会，因为不识字，于是他们就将基督耶稣的故事通过马赛克来描述。

在拜占庭帝国时代，君士坦丁大帝使得基督教合法并大力推动它的发展，于是大量的教堂开始使用马赛克来美化，使用的色彩也越来越丰富，甚至有大量的金箔也被运用进去了，这是马赛克发展的巅峰时期。