Le rocce sono utilizzate in quasi tutti i giardini giapponesi. Alcuni giardini presentano la roccia come elemento principale, ma la maggior parte dei giardini giapponesi li usa in ruoli di supporto come pietre funzionali, percorsi, pietre di bordo o massi paesaggistici. I giardini giapponesi generalmente usano la roccia in modi sottili per evocare le qualità del paesaggio naturale. Anche i giardini giapponesi sono spesso caratterizzati da grandi massi che vengono affondati nei banchi e utilizzati per effetti scenografici. Nei tempi antichi l'incastonatura delle rocce era un compito molto serio.