Gästerna skapade flest chanser under första halvlek. Isak Pettersson tvingades till flera kvalificerade räddningar. Det stod 0–0 i paus.
I den 63:e minuten bytte Björn Hamberg in Leo Östman. Tio minuter senare nickade 20-åringen in 1–0 på hörna.
I slutminuterna slog Arber Zeneli fram Östman till 2–0.
– Det är en otrolig känsla. Det är det man lever och jobbar för, säger Östman i TV4 Plays sändning.
Även Sebastian Holmén var självkritisk efter den svaga första halvleken.
– Vi kom inte in i matchen som vi ville och släppte till lite för mycket chanser, sa han.
Före avspark invigdes tidigare statsministern Ingvar Carlsson i Elfsborgs Hall of Fame. 91-åringen spelade själv i klubben upp till 17 års ålder.
Elfsborg har nu vunnit åtta av tio allsvenska hemmamatcher mot BP.