Песня была создана ещё в 1940 году в честь партизан Гражданской войны. Тогда поэт Яков Шведов и Анатолий Новиков написали по просьбе политуправления Киевского военного округа песенную сюиту, посвященную легендарному Григорию Котовскому.
В сюиту вошли семь песен, в том числе "Смуглянка". Лирическая, игровая песня, воспевающая девушку-партизанку времен Гражданской войны, была написана на основе молдавского фольклора. Но в довоенные годы «Смуглянка» так и не исполнялась. Клавир ее был утерян. У авторов остались только черновики.
Когда началась Великая Отечественная война, композитор восстановил некоторые песни и решил предложить свою "Смуглянку" на радио. Но там ее забраковали: "Что это за песня про любовь, свидание, расставание, про какую-то смуглянку-молдаванку? Ведь сейчас идет такая тяжелая война... Вы же автор героических песен", - укоряли Новикова.
Доводы звучали убедительно, и "Смуглянка" вновь была заброшена в самый дальний ящик письменного стола. Вероятно, так бы она там и осталась, если бы не счастливый случай.
"Как-то в 1944 году мне позвонил художественный руководитель Краснознаменного ансамбля А. В. Александров, - вспоминал Новиков. - И спросил, нет ли у меня новых песен. Я принес ему несколько новинок, в том числе и "Смуглянку". К великому моему удивлению, именно эта веселая лирическая песенка про любовь молдавской девушки больше всего понравилась прославленному музыканту".
Александров тут же начал репетировать «Смуглянку» с хором и солистами, и уже в 1944 году ансамбль впервые спел песню в Концертном зале им. Чайковского. Концерт транслировался по радио, так что "Смуглянку" услышало большое количество людей. Песню немедленно подхватили в тылу и на фронте.
Несмотря на то, что в «Смуглянке» говорилось о событиях Гражданской войны, многие восприняли её как песню об освобождении Молдавии в Великой Отечественной войне – в августе 1944 года как раз успешно завершилась Вторая Ясско-Кишинёвская операция, которая закончилась разгромом крупной немецко-румынской группировки гитлеровских войск.
Вторую волну популярности песня получила, когда стала музыкальным лейтмотивом знаменитого фильма "В бой идут одни "старики" 1973 года. В дальнейшем её не раз перепевали звёзды советской эстрады - Иосиф Кобзон, Надежда Чепрага, София Ротару, Zdob şi Zdub и другие.