Studien som gjorts på patienter i Norge och Sverige visade inte på någon signifikant skillnad i återfall mellan de som vaccinerades med vaccinet och de som fick placebo.
Totalt ingick 355 rökare som först behandlades under sex veckor med Champix (vareniklin). De 75 procent som under perioden lyckades sluta med vareniklin lottades till den randomiserade studien med vaccinet.
Vaccinet gavs i studiens början och vid fem uppföljningsbesök.
Vid studiens slut var drygt 43 procent i vaccingruppen fortfarande rökfria och drygt 51 procent i placebogruppen.
Som återfall räknades om man rökt mer än fem cigaretter de sista sju dagarna innan kontakt med forskarna.
Vaccinet innehåller antikroppar mot nikotin. Tesen var att antikropparna i blodet skulle blockera nikotinreceptorerna och nikotineffekten utebli.
-Men studien bekräftade inte hypotesen, säger överläkaren och forskaren Serena Tonstad till norska Dagens Medisin
Ett halvår till nio månader efter vaccineringen sågs det inte någon signifikant skillnad mellan vaccin- och placebogruppen.
Niccine, som det prövade vaccinet i studien kallas, är bara ett av flera nikotinvacciner som visat sig ha usel effekt. Men det pågår försök för att finna ett vaccin som bättre binder till receptorerna.