O cerebelo localiza-se por baixo da parte posterior do cérebro e imediatamente por trás do tronco cerebral, uma estrutura com a qual está intimamente ligado através de vários feixes de fibras nervosas. Tem uma forma arredondada, semelhante a de uma borboleta, sendo composto por duas porções laterais, os hemisférios cerebelosos, unidos por uma parte longitudinal central denominada vérmis. Tal como o cérebro, o cerebelo também apresenta um córtex composto por substância cinzenta e por uma massa central de substância branca, com vários núcleos de substância cinzenta. A sua superfície apresenta profundas fissuras paralelas, que se estendem desde o centro dos hemisférios até a periferia, dividindo o órgão em vários lobos, que por sua vez se encontram sulcados por inúmeras fissuras menos profundas.

O cerebelo encontra-se ligado a medula espinal e ao cérebro, através do tronco cerebral, graças a três grossos feixes de fibras nervosas designados pedúnculos cerebelosos, o que faz com que o órgão constitua uma via de passagem de toda a informação sensitiva e motora relativa ao equilíbrio corporal e aos movimentos.

As suas inúmeras ligações permitem que o órgão intervenha ativamente, em conjunto com os núcleos da base do encéfalo, na conservação da postura erecta e na coordenação das contrações musculares, controlando os movimentos corporais.