Холмогорского района Северного края (ныне Архангельской области).
В 1937 году переехал
вместе со своей многочисленной семьёй в Няндому.Летом 1942 года умерли мать и младшая сестра Рубцова, отец был на фронте, и детей распределили в интернаты. Тем же летом 6-летний Николай написал своё первое стихотворение.
С 1950 года по 1952 год Рубцов учился в Тотемском лесотехническом техникуме.
В январе 1955 не сдал зимнюю сессию и был отчислен из техникума. С марта 1955 года Рубцов был разнорабочим на опытном военном полигоне.