隋与初唐时期，描绘楼台宫观是当时的风尚。山石树木作为楼台宫观的配景，相应受到重视。当时擅长人物的画家，大多擅长此道。其中展子虔因有作品《游春图》传世尤值一提。
展子虔（550～604年），渤海（今山东阳信）人，历北齐、北周入隋。《游春图》是现存年代最早的山水卷轴画，画贵族游春情景。先用墨线勾勒，然后重着青绿，山脚处饰以金粉，金碧辉煌。在构图上则予人以“远近山川，咫尺千里”之感。
较之《洛神赋图卷》中非自然排列的山川树石，《游春图》的进展似乎只是把人物放到作为背景的山水中去，这一步看似简单，但如果没有南朝山水诗人走进自然、亲近自然的欲望，这一步的实现是难以想像的，而这一步的迈出几乎完成了中国山水画自然主义历程的一半，即完成了山水画在空间关系上的错觉处理。此后的三个世纪，自然主义的山水画才完成了它的另一半路程，即通过皴、擦、点、染的综合性程式技法使隋唐空钩无皴的山水视之有质地感。
有学者从画中人物幞头、斗拱和鸱尾不合隋制，推论《游春图》底稿应在中晚唐以后，而摹本则不早于北宋中期。
晚唐人张彦远曾评价魏晋以降至唐以前的山水画为“其画山水则群峰之势，若钿饰犀栉；或水不容泛，或人大于山，率皆附以树石，映带其地，列植之状，则若伸臂布指”，又论初唐山水画为“渐变所附，尚犹状石则务于雕透，如冰澌斧刃，绘树则刷脉镂叶，多栖梧宛柳，功倍愈拙，不胜其色”，可知直至初唐，山水画技法仍很稚拙，尚不足以真实地描摹出自然景观。因此《游春图》能否出现于隋代，还有待进一步研究。
不过，初唐人彦悰《后画录》（此书真伪仍有争议）称赞隋代山水画家江志为“模山拟水，得其真体”，似又揭示了隋代画家已从对自然对象的观照中，逐渐获得写实造型的能力。
如何缩小把握自然真实与技法稚拙之间的距离，是继展子虔之后的唐代山水画家的目标。唐代山水画家从两个方面进行探索：其一是以李思训、李昭道父子为代表，继承并完善自六朝以来的青绿山水画法，画风偏重于装饰性；其一是以吴道子、王维、张璪为代表，借用人物画中表现三维空间的线条技巧，把山水画从二维空间画面上理想化的楼台山石主题转换到创构有三维空间的真实自然上。
李思训（651～716年），唐代宗室，开元初年官至左武卫大将军，故后世称为“大李将军”。善画青绿山水，虽从展子虔出而更显工谨细丽。张彦远《历代名画记》记李思训山水：“湍濑潺潺，云霞漂渺。时睹神仙之事，杳然有岩岭之幽。”元汤垕《画鉴》也说“展子虔画山水法，大抵唐李将军父子多宗之。”可见其画虽偏于山水方面，但画中人物仍多，尚不脱六朝古态。
另据朱景玄《唐朝名画录》载，天宝年间，李思训曾为唐玄宗画一掩障，使玄宗“夜闻水声”。李思训卒于开元六年，没有活到天宝年，因而无法据此而证实李思训是否已具备如此高超的写实技巧。不过，这则传说语虽玄虚，但也表明了唐代人对掌握自然真实的渴望。
传为李思训的作品有《江帆楼阁图轴》。画高岭长松，山路楼阁，数人乘马或步行游赏；山外江天寥廓，风帆飘缈。山石用细笔勾勒，青绿重彩设色，富于装饰趣味。有学者认为《江帆楼阁图》山水树石风格与敦煌壁画中晚唐画相似，画中人物戴中唐以后幞头，建筑也似晚唐作风，表明此画是晚唐作品。
其子李昭道，职虽未至将军，但世人因其父称亦谓之“小李将军”。李昭道的画法大约承其家学而更加精致。《历代名画记》称“变父之法，妙又过之”。《唐朝名画录》称“昭道虽图山水，鸟兽甚多，繁巧智慧，笔力不及思训。”
传为李昭道的作品有《明皇幸蜀图》，画唐玄宗避安史之乱逃入四川事，画中悬崖峭壁，石磴曲盘，树间苍滕萦绕，行人策骑登山，画法空勾无皴，青绿设色，极为稚拙，颇类唐人山水作风。此画虽难以肯定是否李昭道所作，但此画属于二李青绿山水画风，仍可作为二李山水画艺术的参考。
从与大小二李同期的墓室壁画中的山石画法来看，初唐时期的山水画表现方法多以中锋线条勾勒轮廓，然后填色，墨的运用尚未被重视。这一种勾线填色的青绿山水是依俯于人物技巧发展而成的一种高古风格的山水画形式，它在隋和初唐已逐渐成熟，而李思训、李昭道则使之进一步完善。与此同时，以释道人物著称的吴道子，在山水画方面也创造出以线为主的写意画风。
朱景玄《唐朝名画录》记天宝年间，李思训与吴道子同在大同殿画嘉陵江山水，李“累月方毕”，吴“一日而毕”，李没有活到天宝年，此事绝无可能，但朱景玄记录此则传说，正好也说明了李、吴二人画法上的不同。
张彦远认为“山水之变，始于吴（道子），成于二李（思训、昭道）”。吴晚于李，“始”、“成”之说，在时间上难以说得通，张彦远的原意，可能说的是水墨淡彩创自吴道子，青绿技法至二李才臻完善。
吴道子的“山水之变”不同于二李重彩设色、富于装饰趣味的青绿形式，而是以线条为主要刻划手段，色彩只作为补充手段。吴道子神采飞扬、灵动多变的线条，复加之设色简淡等技巧，较之青绿技法，更为真实地表现出山石的结构与气势，从而为山水画获得一种新的审美趣味，也为此后水墨山水的形成作出了积极的探索。当然，吴道子虽突破了自六朝以来青绿重彩的体格，但他并没有彻底完成山水画的变革任务。五代山水画家荆浩说他“有笔而无墨”，可知他的山水画，只有线条，虽表现出了山水的气势，即所谓的“怪石崩滩，若可扪酌”，但山水的质感刻划仍有欠缺。这有待中晚唐及五代山水画家完成。
王维（698～759年），字摩诘，太原祁（今山西祁县）人。历官尚书右丞，故称“王右丞”。盛唐著名诗人，亦工书画。其作品有“诗中有画，画中有诗”之誉，惜无真迹传世。
王维的山水画可能同时受到吴道子与李思训的影响。朱景玄《唐朝名画录》评之“其画山水松石，踪似吴生，而风致标格特出。”张彦远《历代名画记》也说他“笔力雄伟”，吴道子的笔法正以“雄壮”见称，这都可视作他承受吴道子画风的证据。画史上又载王维画“皆如刻画”，显然又有与李思训相近之处。
王维在画史上的重大影响是他的“破墨山水”。所谓“破墨”，即以墨加水调成浓淡不同的层次，用以渲染，代替青绿设色。而水墨渲染在画史上的意义，在于它启发了此后皴法的出现。就作品而言，王维的山水画在唐代的品评并不甚高，较吴道子、李思训为下。到了宋代，文人绘画兴起，因为王维的山水画笔意清润，诗画合一，与当时文人趣味若合符契，于是开始备受推崇。到了明末董其昌倡导“南北宗”说，更是把王维尊为“南宗”始祖。应该说，王维对后世文人画的影响，并不在于他的艺术成就，而在于他的艺术思想。王维是唐代山水画家中诗名最大又通禅理的一个，且王维半官半隐的身份，后世文人画家大多类之，正是这种共同的思想基础，导致了共同的审美情趣。
盛唐时期既是依靠人物画技巧发展起来的青绿山水的顶峰，同时也是山水画寻找自己独立的语汇的开始。前者应是沿续六朝山水画遗风的结果，后者则是吴道子等人在人物画技巧的变革中产生。中晚唐的山水画家正是在此起点上进一步探索山水画的独立技巧。
中晚唐山水画家有张璪、项容、王墨、朱审、王宰、刘商等。其中以张璪、项容、王墨最为著名，而张璪在唐人心目中甚至比王维更高。
张璪，字文通，吴郡（今苏州）人。张璪以画松最为著名，能双管齐下，且生枯各别。据《历代名画记》称，张璪作画“惟用秃毫，或以手摸绢素”。这种画风显是承继了吴道子豪放奇诡的作风。但他较吴道子的不同之处，可能在于善用水墨，五代荆浩《笔法记》称张璪的画“真思卓然，不贵五彩”，可见张璪能用墨法。
张璪的画法似受吴道子、王维等人的影响，但当同期另一画家毕宏问他师授时，他答道：“外师造化，中得心源”，据说毕宏听了这话，竟为之搁笔。张璪著有《绘境》一篇，但已失佚。项容以善水墨山水著称，五代荆浩曾言“项容有墨而无笔”，可能指的是项容用墨太过放纵，虚化了线条，导致画作缺乏骨气。王墨是项容的学生。他与画史上言王默、王洽者实为同一人。据《唐朝名画录》称：“善泼墨山水，时人故谓之王墨”，又记其“凡欲画图幛，先饮，醺酣之后，即以墨泼，或笑或吟，脚蹙手抹，或挥或扫，或淡或浓，随其形状，为山为石，为云为水。”
从文献记载看来，唐中叶后，山水画在构图上发生了重大变化。已经从南北朝时期表现山水只有左右横向布置的远近之别，而无前后纵深区别远近的构图形式转向在有限的画幅内展示无限深邃的山水境界，即所谓的“咫尺重深”。
由于此期恰是水墨山水勃兴之时，过去常将“重深”理解为与水墨画有关的一个形容词。实则“重深”应是表现山水画深远景象之词，它与构图关系密切。“重深”一词屡见于中唐之后山水画作品的描述之中，可能说明此时山水画家已完全掌握在画面上表现深度的方法，有意识地向纵深方向开拓画境，开创了山水画发展史上的新局面，使山水画从“咫尺千里”跨入“咫尺重深”的阶段。
唐代石窟与墓室壁画中保存了唐代山水画的部分实物资料。如莫高窟332窟南壁《迎佛图》（武周时期）、217窟南壁法华经化城喻品（开元初期）、172窟东壁文殊像（天宝晚期）所画山水，陕西富平出土的墓葬六屏山水壁画（盛唐时期），藏于日本正仓院的一件唐代琵琶上所绘两幅山水人物画，均可见出当时画家对表现画面深度已很娴熟。
唐代中晚期水墨山水画的发展历程，因实物资料欠缺，更多的只能依靠文献记载进行推测，推测结果正确与否，实有待将来考古新发现的验证。结合文献和考古资料，大致可以认为，中国山水画技术与创作方法的两大问题“势”（即表现空间深度）与“质”（即表现山石质感肌理），“势”的问题在唐代已基本解决，唐代山水画已克服了早期图案式造型处理，更趋于写实。而“质”的问题，尽管青绿山水已取得极高成就，水墨山水也正逐渐兴起，但基本上还是线条勾勒的画法，这一问题仍需留待五代解决。
