马赛克最古老的形式可追溯到希腊的铜器时代(西元前1600年到前1000年)，当时用经水磨损的小鹅卵石来装饰地板。约西元前800年时，出现了使用各种颜色小石头铺出图形的道路，然而这些图形都还不是很有结构性。直到约西元前四百年，希腊人才将拼贴小鹅卵石的技术提升至艺术层次。其图案有精致的几何图形也有细致的人或动物画面。

西元前两百年，镶嵌图被用在需描绘更多细节和色彩范围的作品上。因为这些小镶嵌片(tesserae)可细小至几公厘大小，所以能够仿造出图画的样子。这都是罗马人从希腊人那学习马赛克技巧，并在罗马帝国时期将此艺术发扬光大的结果。典型的罗马主题有庆祝众神的场景、家庭事物的描绘以及几何图案的设计，代表性的例子就是希腊罗马时期庞贝古城的”小心恶犬”图。