Japanilaisen kivipuutarhan tärkeimpinä elementteinä ovat sora, hiekka, luonnonkivet, vesi ja toisinaan myös ruoho tai muut elolliset elementit. Vesi saattaa olla vertauskuvallinen kivestä ja hiekasta luotu vesiputous tai oikea lampi tai soliseva puro, jonka yli pääsee sillan tai astinkivien avulla. Tyypillisesti kuivaan puutarhaan eivät kuulu kukkivat kasvit tai puut vaan kivet ja vähäinen kasvillisuus muodostavat sopusointuisen kokonaisuuden. Zen-puutarhassa vesiaiheita kuvataan usein soran ja kivien asettelulla. Japanilaistyylinen kivipuutarha sopii esimerkiksi pihakiveyksen jatkeeksi tai vaikka talon seinän vierelle.
Kasvit sijoitetaan kivikkopuutarhaan huolellisesti. Kivikkokasvit, kuten matalat monivuotiset maksaruohot, sammalleimut ja patjarikot elävöittävät kivipuutarhan. Ne etsivät juurillaan pienimmätkin mullanmurut ja pärjäävät paahteessa. Kirjavuutta ei toivota, vaan kasvit kukkivat laji kerrallaan. Punaisen luonnonkiven kanssa sopivat erityisesti oranssit, lilat, vihreät ja valkoiset kasvit. Harmaan luonnonkiven kanssa korostuvat punaiset, siniset ja valkoiset kasvit. Ruskeankirjava luonnonkivi sopii murrettujen keltaisen, oranssin, sinisen ja vihreän sävyjen kanssa.
- Kuori maata pois tulevan kivipuutarhan alalta.
- Upota luonnonkivet paikoilleen, niin että noin 2/3 kivestä jää näkyviin.
- Kaiva kasvien istutuskuopat valmiiksi suunnitelman mukaisille paikoille ja täytä mullalla.
- Levitä alueen päälle vahva, vettä läpäisevä suodatinkangas estämään rikkaruohojen kasvua.
- Tee reiät suodatinkankaaseen istutuskuoppien kohdalle ja istuta taimet paikoilleen.
- Levitä lopuksi noin 5 cm vahvuinen hiekka- tai sepelikerros suodatinkankaan päälle.