Simon Olsson avgjorde efter 22 minuter. Efter en klackframspelning från Momoh Kamara borrade han in ledningsmålet.
Det var Mjällbys första match utan Elliot Stroud, som lämnat för Hull City.
– Vi kämpar på och gnuggar på. Det är inget gnäll på varandra i laget i alla fall. Vi försöker vända det här tillsammans, säger Axel Norén till TV4.
Mjällby spelade upp sig i andra halvlek och hade flera chanser att kvittera. Men Isak Pettersson i Elfsborg-målet gjorde flera viktiga räddningar.
Lagets senaste allsvenska seger kom den 9 maj mot Degerfors. Sedan dess har det bara blivit förluster och oavgjorda.
– Vi vet att det är tufft, men vafan vi kan inte lägga oss ner och dö, säger Norén.
Förra säsongen slog Mjällby poängrekord i allsvenskan – nu är de inne i en djup kris.