Simon Olsson gjorde matchens enda mål i den 22:a minuten på Strandvallen.
Elfsborg tog över efter en jämn inledning. De var aggressiva offensivt och fick betalt.
Mjällby har bara vunnit en av sina tretton senaste matcher. Laget ligger nu i bottenstrid.
– Vi kämpar på och gnuggar på. Det är inget gnäll på varandra i laget i alla fall. Vi försöker vända det här tillsammans, säger Mjällbys Axel Norén till TV4.
Jacob Bergström är förvånad över den tappade hemmastyrkan.
– Att vi har tappat det var det sista jag trodde vi skulle göra. Det är upp till oss att lösa det, det är ingen annan som kommer göra det åt oss, säger han till nsk.se.
Elfsborg tog sin andra raka seger. 19-årige Ossian Nordvall fick göra allsvensk debut när han hoppade in i den 84:e minuten.
Mjällby har nu både Europakvalet och bottenstrid att hantera samtidigt.