U sivoj tvari malog mozga jasno su vidljiva tri sloja. Molekularni sloj (stratum moleculare) grade košarasti i zvjezdoliki neuroni, dendriti i većinom nemijenilizirani aksoni neurona dubljih slojeva te glija stanice (astrociti, mikroglija). Ganglijski sloj (stratum gangliosum) čini sloj Purkinjeovih stanica (veliki, kruškoliki perikarioni koji na svojem vršnom dijelu imaju dva do tri dendrita, a mijelinizirani akson odlazi u bijelu tvar). Zrnati sloj (stratum granulosum) grade mali i veliki neuroni te glija stanice. Bijela tvar malog mozga vlaknastog je izgleda zbog aksona.