Съемки проходили в Каневе на берегу Днепра. Тарковский сразу отказался от павильонных съемок — только натура, только природа как жизнь, бросающая вечный вызов войне. При этом погода была дождливая, сырая, Николай Бурляев оказался мальчиком болезненным, и его матери пришлось на работе брать длительный отпуск, чтобы следить за состоянием здоровья юного артиста. Так за весь фильм только три или четыре сцены были сняты в павильоне и одна сцена — свидание Холина с Машей —
в березовой роще под Москвой.
Фильм был принят очень хорошо. В августе 1962 года фильм «Иваново детство» был отправлен на кинофестиваль в Венецию, где получил «Золотого льва».