中國山水畫萌芽于晉，這在文獻(xiàn)資料中就有記載。晉代顧愷之的畫論有三篇，其中有一篇《畫云臺山記》，是主要談山水畫的，文中寫道：“山有面，則背向有影，可令慶云西而吐于東方，清天中，凡天及水色，盡用空青，竟素上下以映日。西去山，別詳其遠(yuǎn)近……”此文中記敘山水的構(gòu)圖法，以山水為主。同時(shí)期的宗炳寫了一篇《畫山水序》，其后王微又著有山水畫論《敘畫》，這都說明晉代已有許多的山水畫的作品。
 在晉之前漢魏時(shí)期的繪畫中，也有不少具山水畫的因素者，張彥遠(yuǎn)在《歷代名畫記》中“吳王趙夫人”條下有“孫權(quán)嘗嘆魏蜀未平，思得善畫者圖山川地形。夫人乃進(jìn)所寫江湖九州山岳之勢。夫人又于方帛之上繡作五岳列國地形?！钡鹊鹊恼撌?，但那時(shí)畫的山水只是軍事上實(shí)用的地圖之類。所以真正的山水畫，乃正式萌芽于晉，由晉朝而興起的山水畫，由宋而成。
 早期的山水畫，存世不多，盡管在敦煌壁畫等處也可看到一些山水畫，但它不能代表當(dāng)時(shí)的山水畫的全貌，這在《歷代名畫記》所記皆可證明(《記兩京外州寺觀畫壁》中的山水畫多唐人手筆)。所以我們在早期山水畫中看到的一般是“群峰之勢”，“若鈿飾犀櫛，或水不容泛，或人大于山，率皆附以樹石，哄帶其地，列殖之狀，則若伸臂布指?！?br> 但是，專門從事繪畫的士大夫們，都有很高的文學(xué)修養(yǎng)，一部分山水畫還是具有很高水準(zhǔn)的。從顧愷之的山水畫構(gòu)圖稿的文字記錄來看，當(dāng)時(shí)的山水畫是有一定深度的，前后、左右、上下皆有安排，樹石、道路、泉流，決不會“若鈿飾犀櫛”。這從漢畫像石中也可得到證實(shí)。但是當(dāng)時(shí)的山水畫，不論出自民間的還是出自士大夫的，也不論水平高低，皆有個共同特點(diǎn)：顏色是青綠艷麗的，而且是涂滿絹素或墻壁的，畫中皆有復(fù)雜的禽獸，至隋逐漸減少，唐初已基本不存在了。
 山水畫的產(chǎn)生和上層人物、知識分子參與有關(guān)，魏晉時(shí)期就有許多知識分子從事繪畫。山水不久便成為他們繪畫的主要題材，由于士大夫們加入繪畫后，便分成士體和匠體，《歷代名畫記》記謝赫評劉紹祖云：“傷于師工，乏其士體?！庇謴@云：“不近師匠，全范士體?！弊诒?、王微的畫論，也表現(xiàn)的是文人士大夫的思想和情懷，成為后世文人畫的遠(yuǎn)祖。
 山水畫的發(fā)展，首先表現(xiàn)在隋代和唐初的大興土木即宮廷、臺閣的大量建筑上。在設(shè)計(jì)建筑時(shí)，便要繪畫大量的山水背景，直到唐初的“二閻”(閻立本、閻立德)“漸變所附”，可知山水畫是由附屬于宮廷建筑圖中脫離出來。在《歷代名畫記》卷一《論畫山水樹石》有謂：“國初二閻，擅美匠，學(xué)楊、展，精意宮觀，漸變所附?！钡岸悺碑嬌剿瘶淠窘圆怀墒?，后為“二李”(李思訓(xùn)、李昭道)所成功。

 李思訓(xùn)的山水畫，只是繼承展子虔而有所發(fā)展，其所用線條，還是傳統(tǒng)的“春蠶吐絲”式，細(xì)勻而無變化，缺乏一定的氣勢。而李昭道后來“變父之勢”，落筆甚粗，秀勁有力，有氣勢。明代詹景鳳《詹東圖玄覽編》有記載：“李昭道《桃花源圖》，大絹幅，青綠重著色，落筆甚粗，但秀勁。石與山都先以墨勾成，上加青綠，青上加靛花分皴，綠上則用苦綠分皴，皴乃劈斧。遠(yuǎn)山亦青綠加皴，卻是披麻。泉水用粉襯外，復(fù)用重粉，粉上以靛花分水紋，泉下注為小坎，坎中亦用粉襯，用靛花分水紋，如泉水溪流，則不用粉。其于兩崖下開泉口，則于石壁交處，中間為泉水道直下，兩邊皆用焦墨襯，意在墨瑛白。即唐人亦末見有如此襯山者。山腳坡上，亦如常用赭石，赭石上用兩金分皴。勾勒樹，落筆用筆亦粗，不甚細(xì)。墨上著色，色上亦加苦綠重勾，大抵高古不犯工巧，予見李昭道畫軸與卷莢，則《桃花源圖》為最古，工而不巧，精而自然，色濃意樸，斷非后人能偽作也?！惫噬剿儯?nbsp; 自吳始，至小李而成，昭然也。
 山水畫到了李昭道，已具有較高的藝術(shù)價(jià)值，既有氣勢，又有色彩，但其艷麗的氣氛卻依然如李思訓(xùn)。然而水墨山水畫的出現(xiàn)可以說是發(fā)露于吳道子。它的形成，都是受道家思想的影響。所以中國的士人自稱參禪信佛，實(shí)則其為道學(xué)所牽制。從王維“以禪誦為事”、“中年唯好道”到董其昌以“畫禪”名室，他們不曾一日遁佛之道而去自尋痛苦的生活，他們享盡了人間富貴，王維雖和陶淵明思想相通，但他卻對陶淵明“棄官后行乞”的行為大為不滿；董其昌出門坐在轎子里仍嫌辛苦。他們最知生的快樂。說是佛徒，實(shí)則佛其表，道其內(nèi)。所謂“富貴山林，兩得其趣”也。
 在藝術(shù)思想上，更是與道家思想相通。道家的“忘”，只是忘卻人世間庸俗的糾葛，并且由“物化”而對宇宙萬物加以擬人化、藝術(shù)化，且要求能“官天地，府萬物”，“能勝物而不傷”。正因如此，所以在虛靜之心中，能“胸有丘壑”，能流入筆下而成為山水畫。而佛的“滅”、“四大皆空”；禪的“無念為宗”、“本來無一物”，則不可能“胸有丘壑”，也不允許產(chǎn)生藝術(shù)的意欲。所以以水墨代五彩畫山水，正是力主清靜樸素、虛淡玄無的道家思想之體現(xiàn)。
 王維之后的水墨山水畫家，都或多或少的具有道家的思想。所以山水畫在中唐突變后的興盛時(shí)期，據(jù)考證也正是安史之亂，唐代開始走下坡路的時(shí)代，乃是道家思想起作用的時(shí)候。畫山水的文人，往往不是以之博取功名，只是用以“娛悅情性”。王維“不能舍余習(xí)，偶被時(shí)人知?！薄白赃m其樂”就不必迎合世俗的情趣，而自己的情趣又在于清靜雅談，這無疑是契合于水墨畫的情趣。
 唐末的山水畫正是中國山水畫第一個高峰中的“始信峰”，即中國山水畫成熟的起點(diǎn)。至五代宋初，  山水畫才達(dá)到高度成熟，并居畫壇之首。 唐末、五代、宋初產(chǎn)生了“百代標(biāo)程”、“照耀千古”的大山水畫家，如孫位、荊浩、關(guān)仝、李成、范寬、董源、巨然等等，都是前無古人、后啟來者的大畫家。北宋中后期再也沒有產(chǎn)生這樣的大畫家。正如郭若虛《圖畫見聞志·論古今優(yōu)劣》有云：“或問近代至藝，與古人何如?答日：近方古多不及，而過亦有之。若論佛道、人物、仕女、牛馬，則近不及古；若論山水、林石、花燈、禽魚、則古不及近?！薄爸寥缋钆c關(guān)、范之跡，徐暨二黃之蹤，前不藉師資，后無復(fù)繼踵，借使'二李’(李思訓(xùn)、李昭道)，'三王’(王維、王熊、王宰)之輩復(fù)起，邊鸞、陳庶之倫再生，亦將何以措手其間哉。故曰：古不及遠(yuǎn)?！?br> 唐末至宋初的北方大山水畫家多位是隱士，他們的山水畫成就特別高。像關(guān)仝是五代初人，師事隱居太行山的荊浩。李成主要活動于五代，避亂而隱居于營丘山，死于宋初。范寬是五代末至宋初人，隱居于關(guān)陜、終南等地。隱遁山林的畫家，自然以畫山水為主，所以北方的人物畫、花鳥畫不盛，而山水畫特盛。其主要的特點(diǎn)：(一)畫北方石質(zhì)山，雄偉峻厚，石質(zhì)堅(jiān)凝，風(fēng)骨峭拔；(二)突出山石輪廓，以線條勾出凸凹，然后用堅(jiān)硬的“釘頭”、“兩點(diǎn)”、“短條”皴之(南方山水畫也有“兩點(diǎn)”、“短條”，但決不堅(jiān)硬，而是十分溫潤)，是形成斧劈皴、折帶皴的基礎(chǔ)；(三)長松、巨木為主；(四)多高山飛泉流水，大山突兀，有崇高感。然北方畫派中各家又有各家的面貌。郭若虛在《圖畫見聞志》卷廣《論三家山水》中謂：關(guān)仝的山水畫石體堅(jiān)凝，雜木豐茂,臺閣古雅,人物幽閑.而且其畫木葉，問用墨精微。畫松葉謂之?dāng)€針，筆不染淡，  自有榮茂之色。且煙林平遠(yuǎn)之妙，始自營丘。范寬的畫峰巒渾厚，勢狀雄強(qiáng)，槍筆俱均，人屋皆質(zhì)，且畫林木，或側(cè)或欹，形如偃蓋，畫屋既質(zhì)，以墨籠染，后輩目為鐵屋，但范寬不大畫松柏。他們都成功地刻畫出北方地區(qū)山密渾厚、勢壯雄強(qiáng)的特色，稱為北方畫派。
 其實(shí)五代宋初時(shí)期的南方山水畫成就也不低。南唐的大山水畫家董源、衛(wèi)賢、趙干等成就皆很高。由于南唐的群臣皆文學(xué)和藝術(shù)上的能手，所以南唐繪畫，諸如花鳥、人物、山水皆達(dá)到極高的成就。與北方山水畫形成鮮明對比，其特點(diǎn)：(一)畫江南土質(zhì)山，平淡天真，輕煙淡巒，氣象溫潤；(二)山石輪廓線不突出，  山骨隱顯，用密密的、或長或短的、有柔性的線條和潤媚的點(diǎn)子表現(xiàn)山石的凸凹，是為長、短披麻皴、荷葉皴的基礎(chǔ)；(三)林梢出沒，雜樹灌木叢生；(四)多低短山丘平沙淺渚，洲汀掩映。
 北宋中后時(shí)期繪畫已普及到一般文人，以蘇軾、黃庭堅(jiān)、米芾為代表的一批文人，則竭力推動文士畫發(fā)展，他們倡導(dǎo)“畫中有詩，詩中有畫，”主張“不求形似，但求達(dá)意?！痹凇懂嬂^》有云：“畫者，文之極也，故古今之人，頗多著意，……本朝文忠歐公、三蘇父子、兩晁兄弟、山谷、后山、宛丘、淮海、月巖，以至漫仕、龍眠，或品評精高，或揮染超拔……，其為人也多文，雖有不曉畫者寡矣；其為人也無文，雖有曉畫者寡矣?！北彼蔚奈娜藥缀醵紩援嫞踔劣H自揮染，將自己的審美觀帶入到繪畫中去。米芾的山水畫；平淡天真”，“畫意不畫形”，而且沒有“高下向背，遠(yuǎn)近重復(fù)”的強(qiáng)烈感覺,十分平易.這正和當(dāng)時(shí)的古文運(yùn)動的精神相契。
 宋代文人“蕭條淡泊”、“忘形得意”一類主張到了元代文人畫大盛時(shí)，方得到空前的發(fā)展。元代的繪畫用以寄托性情，這是元代士人閑逸、苦悶、悲涼、委曲的精神狀態(tài)所至。士人放棄對國家民族的責(zé)任心，而隱逸形成一種社會普遍性的現(xiàn)象，他們百無聊賴，有才無處發(fā)，于是引發(fā)為一種對世俗生活的超脫之感，并發(fā)展為使個體與社會總體分離的社會性的精神運(yùn)動。山水畫家以趙孟煩為代表，中后期出現(xiàn)黃公望、王蒙、吳鎮(zhèn)、倪瓚等，并稱“元四家”。他們倒是學(xué)董、巨，但不再迷戀于自然界中的真實(shí)和韻律，而是抒發(fā)自己的性情。成就最高的是畫山村山水的小景，甚至畫高山峻嶺也小景化。
 明初的山水畫基本上是元末山水畫的延續(xù)，畫家多能直抒胸臆，表現(xiàn)自我，表現(xiàn)一種冷逸寂靜的氣氛，且以宮廷繪畫見長。以王諤和戴進(jìn)為代表的浙派，代表了明代前中期的時(shí)代風(fēng)格，它的支流有吳偉為首的江夏派。但浙派繪畫在明代后期已無法保持它的優(yōu)勢，和宮廷繪畫一樣衰落得一敗涂地，浙派的畫家戴進(jìn)是十分出色的。后期的浙派繪畫確實(shí)是“徒呈狂態(tài)”，以粗筆闊墨去強(qiáng)求豪氣，勾皴的線條十分放肆，這在吳偉晚年的作品中已很明顯。正德時(shí)期，以蘇州為中心，以沈周、文徵明、唐寅，仇英為代表，被稱為“吳門四家”，又稱為“明四家”。四家中，沈括,重新提出三遠(yuǎn)章法：“闊遠(yuǎn)”、“平遠(yuǎn)”、“高遠(yuǎn)”。夏圭、劉松年，他們并稱“南宋四大家”。馬遠(yuǎn)在構(gòu)圖上大膽取舍，以山一角、水一涯的局部特寫，突出大量空白的深遠(yuǎn)景觀，給人留下想象的空間和濃郁的詩意，人稱“馬一角”。夏圭構(gòu)圖常取半邊，中空曠大，近景突兀，遠(yuǎn)景清淡，  自具一格，人稱“夏半邊”。二人皆用大斧劈皴，筆筒意遠(yuǎn)，遺貌取神。這種邊角構(gòu)圖，為傳統(tǒng)山水畫的發(fā)展提供了更廣闊的空間。、文繼承“元四家”畫風(fēng)；仇英以工筆重彩的風(fēng)格見長；唐寅雖師承南宋院體，但和浙派截然不同，他用院體的一些方法，卻加入了文人的逸趣，化剛勁為和柔了。
 明后期吳門派開始衰落，松江派興起，其中他們很多是大文人兼畫家，所以他們的畫比吳門派的畫更加有文人逸趣，古雅而文秀。他們是以趙左為首的蘇松派，以沈士充為首的云間派，以顧正誼為首的華亭派，三派總稱為松江派。而松江派以董其昌為代表，他以“南北宋”給前人“分門戶”，在藝術(shù)思想上主張師古。此外，還有以藍(lán)瑛為首的武林派，以項(xiàng)圣謨?yōu)槭椎膰?yán)謹(jǐn)派，以擔(dān)當(dāng)為首的超逸派，以吳彬、陳洪綬為代表的高古變異派，等等。
 和時(shí)代的精神基本相同，明代已經(jīng)急劇衰微了的山水畫，在清初重新振起，以漸江、石溪為代表的遺民派和以梅清、石濤為代表的自我派山水畫，大可媲美宋元，乃至過之。可惜未能成為畫壇主流，不久便被仿古派“四王”(王時(shí)敏、王鑒、王暈、王原祁)所掩蓋，所謂“正宗”和主流又納入了明末出現(xiàn)的臨古軌跡，畫壇出現(xiàn)了和社會一樣的“萬馬齊喑”的狀態(tài)。
 “一代正宗才力薄，望溪文集阮亭詩?！薄八耐酢钡漠嫳荒繛椤罢凇?，后世識者對其才力微薄之不滿甚于阮亭詩。而非正宗的“四僧”(八大山人、石濤、髡殘、弘仁)和被譏為“惡習(xí)”、“八怪”的畫反而為覽者所喜愛?！八耐酢钡漠嬛詾椤罢凇保珠L期風(fēng)靡中國畫壇，其原因：(一)“四王”之首王時(shí)敏得董其昌正傳；(二)王時(shí)敏以及王鑒本是明朝大官，在社會上有政治影響；(三)遺民派的畫本和宮廷無關(guān)。
 “四僧”、“揚(yáng)州八怪”、“金陵八家”的繪畫被譏為“惡習(xí)”，受打擊，其原因他們是“革新派”，在政治上抗拒清政府統(tǒng)治，在藝術(shù)上張揚(yáng)個性，強(qiáng)調(diào)以情為主， 中國的山水畫至清代急劇衰落，總之“明四家”不及“元四家”遠(yuǎn)甚，“清四家”(“四王”)又不及“明四家”遠(yuǎn)甚，蓋時(shí)代精神使然。山水畫藝術(shù)作為時(shí)代精神的反射，正顯示出這種一代不如一代的征兆。明清之際，“天崩地解”，山水畫藝術(shù)也作了最后一震，他曾疾呼，但大勢如此，無法使一個垂暮的老人煥發(fā)出長久的具有活力的新精神。所以石濤死后，風(fēng)靡山水畫壇的仍是王原祁、王暈一套以臨古為主的山水畫，中國古代山水畫已進(jìn)入了尾聲。