枯山水庭园是源于日本本土的缩微式园林景观，多见于小巧、静谧、深邃的禅宗寺院。在其特有的环境气氛中，细细耙制的白砂石铺地、叠放有致的几尊石组，就能对人的心境产生神奇的力量。它同音乐、绘画、文学一样，可表达深沉的哲理，而其中的许多理念便来自禅宗道义，这也与古代大陆文化的传入息息相关。
公元538年的时候，日本开始接受佛教，并派一些学生和工匠到古代中国，学习内陆艺术文化。13世纪时，源自中国的另一支佛教宗派禅宗在日本流行，为反映禅宗修行者所追求的苦行及自律精神，日本园林开始摈弃以往的池泉庭园，而是使用一些如常绿树、苔藓、沙、砾石等静止、不变的元素，营造枯山水庭园，园内几乎不使用任何开花植物，以期达到自我修行的目的。
因此，禅宗庭院内，树木、岩石、天空、土地等常常是寥寥数笔即蕴涵着极深寓意，在修行者眼里它们就是海洋、山脉、岛屿、瀑布，一沙一世界，这样的园林无异于一种精神园林。后来，这种园林发展臻与及至——乔灌木、小桥、岛屿甚至园林不可缺少的水体等造园惯用要素均被一一剔除，仅留下岩石、耙制的沙砾和自发生长与荫蔽处的一块块苔地，这便是典型的、流行至今的日本枯山水庭园的主要构成要素。而这种枯山水庭园对人精神的震撼力也是惊人的。
15世纪建于京都龙安寺的枯山水庭园是日本最有名的园林精品。它占地呈矩形，面积仅330平方米，庭园地形平坦，由15尊大小不一之石及大片灰色细卵石铺地所构成。石以二、三或五为一组，共分五组，石组以苔镶边，往外即是耙制而成的同心波纹。同心波纹可喻雨水溅落池中或鱼儿出水。看是白砂、绿苔、褐石，但三者均非纯色，从此物的色系深浅变化中可找到与彼物的交相调谐之处。而砂石的细小与主石的粗犷、植物的“软”与石的“硬”、卧石与立石的不同形态等，又往往于对比中显其呼应。因其属眺望园，故除耙制细石之人以外，无人可以迈进此园。而各方游客则会坐在庭园边的深色走廊上——有时会滞留数小时，以在砂、石的形式之外思索龙安寺布道者的深刻涵义。
你可以将这样一个庭园理解为河流中的岩石，或传说中的神秘小岛，但若仅从美学角度考虑亦堪称绝作；它对组群、平衡、运动和韵律等充分权衡，其总体布局相对协调，以至于稍微移动某一块石便会破坏该庭园的整体效果。由古岳禅师在16世纪设计的大德寺大仙院的方丈东北庭，通过巧妙地运用尺度和透视感，用岩石和沙砾营造出一条“河道”。这里的主石，或直立如屏风，或交错如门扇，或层叠如台阶，其理石技艺精湛，当观者远眺时，分明能感觉到“水”在高耸的峭壁间流淌，在低浅的桥下奔流。
江户时期，日本庭园中出现了以低矮灌木为主景的修剪式枯山水，其中，以17世纪滋贺县的大池寺庭园为代表作。它将杜鹃灌木丛修剪为几何形体，象征一艘“船”在波浪中航行，从而展现了一幅禅宗海景图。
同样位于京都的东福寺方丈北庭是日本昭和时代的枯山水庭园。它虽然建于20世纪二、三十年代，却仍然遵循古代的禅宗法则。其最具特色的是，这一庭园中，由苔藓和石块构成棋盘似的小方块，宛如退潮时海岸边的泡沫。它以一条曲线收边，边缘处种以成片的低矮灌木丛，配上星星点点静静开放的杜鹃花，给宁静的庭园添了几分生气。
