Родился 4 октября 1937 года в семье рабочего на станции Дёма Башкирской АССР (ныне Дёмский район города Уфы); отец — путевой обходчик, мать — домохозяйка.
В 1945 году поступил в среднюю школу № 26 на станции Кропачёво Челябинской области. В 1953 году поступил в Железнодорожное училище в городе Златоусте Челябинской области. В 1968 году закончил Всесоюзный заочный институт инженеров железнодорожного транспорта (Москва).
Трудовой путь Сергей Ермаков начал в 1955 году (работал слесарем, помощником машиниста в локомотивном депо города Златоуст). С 1957-го по 1960-й проходил срочную военную службу, по окончании службы поступил работать в локомотивное депо станции Батраки Куйбышевской железной дороги помощником машиниста электровоза, в последующем — машинистом электровоза. В 1964 году перешел на работу в Локомотивное депо города Октябрьск Куйбышевской области (последовательно занимал должности: помощник машиниста электровоза, машинист электровоза, старший мастер, заместитель начальника, начальник локомотивного Октябрьского депо). В 1979 году назначен заместителем начальника службы локомотивного хозяйства Управления Куйбышевской железной дороги. В 1985 году Коллегией Министерства путей сообщения назначен начальником Ульяновского отделения Куйбышевской железной дороги.
В апреле 1990 года избран председателем исполкома Ульяновского Городского Совета народных депутатов, а в декабре 1991-го указом президента России назначен главой администрации (мэром) Ульяновска. В январе 1997 года назначен на должность заместителя председателя Законодательного собрания Ульяновской области.
С марта 2000-го по 2004-й работал в должности директора в ООО «Производственно-инвестиционная компания Диатомит-Инвест».
В марте 2004 года избран депутатом Законодательного собрания Ульяновской области третьего созыва, где замещал должность заместителя председателя комитета по социальной политике, делам молодёжи и местному самоуправлению, а затем возглавил комитет по государственному строительству и местному самоуправлению.
5 декабря 2004 года избран главой муниципального образования «город Ульяновск».
С 1993 по 1995 год был депутатом Совета Федерации Федерального Собрания РФ. В декабре 1995 года был избран депутатом Законодательного собрания Ульяновской области первого созыва.
В 2009 году подал официальное заявление об отказе участвовать в праймериз партии «Единая Россия» по определению кандидата на должность главы города Ульяновска, а в 2010-м поддержал Александра Пинкова в качестве своего преемника.
В 2010 году - председатель Общественной палаты Ульяновской области (ушел с поста в мае 2011-го).
Награжден орденом Петра Великого I степени, дипломом ООН Хабитат и ОГМВ. Является Почётным гражданином Ульяновска и Почётным железнодорожником. Академик Международной Академии Реальной Экономики, кавалер ордена «Меценаты столетия».
Кандидат технических наук.
С 2012 года и по настоящее время - председатель Ульяновского областного совета ветеранов войны, труда, Вооружённых Сил и правоохранительных органов.
Сергей Николаевич овдовел 23 октября 2018 года, имеет сына, внуков. («Я железнодорожник. А жена работала помощником диспетчера. Вот мы там увиделись, и я с перепугу женился. Чтобы не остаться холостым», - шутил Ермаков).
В июне 2021 года перенес второй инсульт.
В январе 2023 года получил звание Почетного гражданина Ульяновской области.
Сергей Ермаков щепетилен насчет всего, что касается его внешнего вида и физического состояния («Я стригусь раз в месяц. В год два раза делаю чистку лица, когда отдыхаю в «Волжском утесе», маски делаю. И лицо немного приходит в форму. Иногда, бывает, хожу в салон у нас в Киндяковке, когда прыщ выскакивает, регулярно я хожу в салон Бубновского. Вторник, четверг, суббота. Ну и не обжираюсь. У меня есть железное правило - после семи часов вечера не есть»).
В мае 2011 года был обвинен в сексуальных домогательствах координатором проекта партии «Единая Россия» — «Мамы рекомендуют» Евгенией Миланской (25 мая она подала заявление в прокуратуру Ульяновской области). 6 июня 2011 года СУ СК России по Ульяновской области отказало в возбуждении уголовного дела в связи с отсутствием признаков преступления. В интервью нашему порталу Сергей Николаевич так прокомментировал ту ситуацию: «Это была откровенная подстава. Я знаю, кто деньги ей заплатил. С этим человеком я не разговаривал. Я мог пойти в суд, но решил оставить. Потом она попалась все же. Их же поймали в Оренбурге. Она по характеру – мошенница. Они брали нарисованные деньги, ходили к старикам, говорили: вот тебе премию дали, но у нас только крупные, давай сдачу. Я даже порадовался в душе».