Den 72-årige legendaren tog över efter att Johan Lindholm fick sparken i veckan. Halmstads BK har fortfarande bara två poäng efter sex matcher.
Första halvlek var mållös. Sedan exploderade Kalmar.
Charles Sagoe Jr gjorde sitt första allsvenska mål i inledningen av andra halvlek. Bara minuter senare satte Anthony Olusanya 2-0.
Halmstads BK skapade inget. Kalmar kontrollerade och Baxters comeback blev ett bottennapp.
Det är tredje raka förlusten för jumbolaget. Två poäng på sex matcher och nu står det klart att tränarbytet inte gav någon omedelbar effekt.
Kalmar hade fyra poäng före matchen och vann ett viktigt bottenmöte på Guldfågeln Arena.
Halmstads BKs kräftgång fortsätter och läget är redan akut i maj.