墨的歷史也比較久遠，僅次于筆。早期是利用天然的石墨或蒸煮后用鬲、鼎之腹下的黑胭脂即炭黑。在竹木簡牘上一度用漆書，秦晚期出現了調制成型的墨丸。

秦漢魏晉南北朝分石墨、油煙墨和松煙墨。松煙墨是以松煙、丁香、麝香、乾漆和膠制成。手握成丸，亦稱螺。

魏出現了制墨名手韋誕（仲將），用上好醇煙做原料制墨，史稱“仲將之墨，一點如漆”。此時墨質松軟，做成丸之形。

隋唐五代宋墨，隋唐制墨業有北方的上谷與潞州。唐末戰亂頻繁，社會動蕩，易水墨奚超渡江遷居歙州，制墨貢南唐，得到統治者賞識，于是賜奚超姓李氏。由奚超開辟的歙州制墨業至其子時，始集大成。制墨原料仍用松煙搭配珍珠、玉屑、龍腦等材料，還要和以生漆搗十萬杵，南唐制黑業工藝在五代十國時期居全國之首位，主要產地是皖南歙州，奠定了宋代以至元明清制墨手工藝大發展的雄厚基礎。

宋代制墨業繼續發展，仍采用松煙，油煙，質量有很大提高，名匠輩出。僅《輟耕錄》載有名工張遇熙豐間（公元1068—1085年）創用油煙制墨之法，以油煙入腦、麝、金箔制貢御墨，名為“龍香劑”。歙人潘谷宋元祜時（公元1086—1094年）成為制墨家而名噪一世。手制“松丸”、“狻猊”等墨，“遇濕不敗”，“香徹肌骨，磨研至盡而香不衰”，譽為“墨中神品”，死后稱為“墨仙”。全國最大的制墨基地仍為歙州，歙州每年進貢龍鳳墨千斤。

元代制墨業承宋代之后繼續發展。著名的制墨工匠就有11人，各自所傳，可以仿古。

明代制墨業仍以安徽最雄厚，人材濟濟，名工輩出。僅據明末麻三衡《墨志》所記載徽州地區墨工已達120余人。這時更加廣泛的使用桐油煙制墨，集錦墨開始露頭并受到好評。文人也參與制墨，形成歙州與休寧兩個墨派，這是安徽墨業的時代特點。如：故宮收藏的潘嘉客款“荷瓣墨”，朱一涵款“青麟髓墨”、“天寶九如墨”、程公瑜款“竹節墨”、羅小華款“世寶墨”、汪鴻漸款“鳳池墨”、葉玄卿款“天門山墨”等都是皖南名墨。成化年款長方紫色“友香御墨”、隆慶年款朱色“龍香御墨”、赭色“如意式龍香御墨”、綠色銀錠式“龍香御墨”等，都是明代皇旁御用之墨，距今已有四五百年之久仍完好如新，是十分難得的。

程君房繼羅小華之后成為墨業巨頭，著“墨苑”十二卷，刊500式墨。“歸馬牧牛圖”墨、“大國香墨”是程氏佳墨。方于魯原與程氏二人所制墨“九玄三極墨”被譽為“前無古人”的佳作，他著《墨譜》六卷，廣為流傳，并載385式墨。“雙鴛鴦彩墨”、“文犀照水墨”、“蘭臺長方墨”是方式的代表作。

休寧派有汪中山，邰青山等，有首創“集錦墨”的功勞，。

清代制墨業，仍以徽州為主要產地。清風廷也極重視制墨業，有收藏業的“蘭臺精英”曹寅監制墨、劉源貢墨十四綻造型別致，裝飾精巧。“耕織圖”、“棉花圖”墨，可以代表御用墨的水平及工藝特點。民間著名制墨家以曹素功、汪近圣、汪節庵、胡開文為四大家。

曹素功所制“紫玉光”、“天琛”、“天瑞”、“千秋光”等集綿墨。

汪近圣所制88種，有“御制耕織圖詩墨”、“御制西湖名勝圖詩墨”、“黃山圖墨”。汪近圣其次子汪惟高于乾隆六年（公元1741年）應召赴內廷任御書處教習。

汪節庵在乾隆年間出名，名墨74種。

休寧胡開文于乾隆年間四十七年（公元1782年）創名墨66種。

始于明末的集錦墨至清有了蓬勃地發展，達到登峰造極的境地，有著比明末更加突出的特點，材料精細、工藝嫻熟、形制裝飾古雅，默模雕鐫遒勁工整，構圖嚴謹生動，圖案清晰如畫，包裝亦十分考究，實用又美觀。如：故宮收藏的“吳天章龍賓十友套墨”堪稱集錦墨的佳品。這些名墨足以反映墨發展的精良水平，顯示了時代特點。