Zmínky o první samostatné škole – chalupě určené k výuce – se datují podle obecní kroniky rokem 1789. Další zmínky z roku 1836 vypovídají o vystavení Krmelínské národní školy místními občany.
V období letních měsíců roku 1884 byla postavena nová dvojtřídní škola (dnes v ní sídlí obecní úřad). Na chodbě je dodnes pamětní deska, odhalená „vděčnými občany krmelínskými“ panu řediteli Aloisi Šulcovi za jeho čtyřicetileté vzorné působení v letech 1879 – 1919. V roce 1896 navštěvovalo krmelínskou školu již 190 žáků!
Budova naší nynější školy byla postavena v roce 1929 a slavnostně otevřena 5.1.1930.
V letech 1956 – 1958, 1985 – 1986, 1999 – 2000 proběhly dílčí stavební úpravy a rekonstrukce. Byly přistavěny nové šatny, školní jídelna, místnost školní družiny a společenský sál, byla přebudována školní kuchyň, sborovna s ředitelnou a školní dílna.