Simon Olsson gjorde matchens enda mål efter 22 minuter. En klackframspelning från Momoh Kamara ledde till ledningsmålet.
Mjällbys senaste allsvenska seger kom den 9 maj mot Degerfors. Sedan dess har det blivit åtta raka matcher utan vinst i ligan.
Det var första matchen utan Elliot Stroud. Stjärnan är på väg till Hull City efter att ha spelat Champions League-kvalet mot Slovan Bratislava.
Mjällby hade flera chanser att kvittera i andra halvlek. Men Isak Pettersson i Elfsborgs mål räddade gång på gång.
– Vi kämpar på och gnuggar på. Det är inget gnäll på varandra i laget i alla fall. Vi försöker vända det här tillsammans, säger Axel Norén till TV4.
Förra säsongen slog Mjällby poängrekord i allsvenskan. Nu har laget bara vunnit en av sina tretton senaste matcher.