Нужно было строить жизнь заново, в наступивших мирных условиях. В 1946-м Алексея Макаровича приняли на прежнее место его работы — в труппу Ленинградского театра музыкальной комедии.
Бывший фронтовик держал себя скромно, оставаясь чаще всего на вторых ролях.
Но однажды он весьма удивил коллег по сцене. Было это во время гастролей в Поволжье. Во время спектаклей в небольшом городке неподалеку от засекреченного тогда ракетного полигона Капустин Яр, гуляя на досуге по центру, компания артистов увидела группу отдыхающих военных. Вдруг Смирнов, перейдя на строевой шаг, направился к одному из них и четко отрапортовал: «Товарищ маршал, разрешите доложить: лейтенант Алексей Смирнов!»
Директор театра, присутствовавший при этой сцене, вспоминал потом: «Я присмотрелся: перед нами — сам маршал Жуков. «Смирнов?.. А что сейчас делаете?» — «Я артист, работаю у вас во Дворце культуры — «Хорошо, вечером обязательно приду на ваш концерт». В тот день Жуков действительно пришел на наше выступление. Потом адъютант шепнул Смирнову: "Маршал приглашает вас на банкет" Так мы узнали о заслугах нашего коллеги…»
Однако серьезных ролей в театре для Смирнова по-прежнему находилось мало:- ему трудно было уезжать на многочисленные гастроли, приходилось постоянно заботиться о тяжелобольной матери. В итоге Алексей Макарович ушел из театра в Ленгосэстраду. Здесь комическая фактура артиста оказалась очень востребована. Начала развиваться и кинематографическая карьера. В 1959 году режиссер Юрий Озеров пригласил Алексея Смирнова в свою новою картину «Кочубей». Вслед за этим последовали и другие предложения. В 1961-м Смирнов окончательно решил переквалифицироваться в «киношника» и был зачислен в штат студии «Ленфильм». Уже вскоре вышел фильм «Полосатый рейс», ставший очень популярным, где Алексей Макарович сыграл весьма приметную роль матроса Кныша.
Этот его персонаж запомнился зрителям, после чего и начался период актерской жизни Смирнова, когда его стали узнавать на улицах. Зрительской популярности добавила роль в замечательной комедии Леонида Гайдая «Деловые люди», где Смирнов сыграл одну из главных ролей в новелле «Вождь краснокожих» — добродушного и туповатого ковбоя Билла.
А потом всех обаял и рассмешил его завхоз пионерлагеря в чудесной комедии Элема Климова «Добро пожаловать, или Посторонним вход воспрещен».
Были в это время и еще несколько картин, не ставших в итоге столь рейтинговыми.
В 1964 году Смирнова снова пригласили сниматься у Гайдая. Рабочее название этого фильма было «Несерьезные истории», но на экраны попало иное, хорошо знакомое уже нескольким поколениям название — «Операция «Ы» и другие приключения Шурика». Кинокомедию запустили в производство в мае 1964-го, а год спустя, 23 апреля 1965-го, фильм был готов. В прокат «Операция «Ы»…» пошла в августе и стала рекордсменом по зрительской популярности. За неполные 5 месяцев 1965 года ее посмотрели без малого 70 миллионов зрителей!
Алексей Смирнов запомнился одной из главных ролей в первой новелле этого фильма — «Напарник». Ленинградский артист-комик стал на экране Верзилой — тунеядцем и хулиганом Федей, которого в итоге удалось проучить Шурику.