Арктика давно является для России важным стратегическим регионом. Русские землепроходцы начали активно осваивать ее еще в XV-XVI вв., но передвижение по северным морям было затруднено из-за того, что они были покрыты льдами. Здесь требовались суда, которые могли бы не только сами пройти сквозь лед, но провести за собой другие, менее мощные. Эта идея была реализована только в конце XIX столетия. Хотя, попытки оборудовать суда приспособлениями для борьбы с ледяными глыбами предпринимались и раньше. Но особого успеха это не приносило.

Первым мысль о постройке мощного арктического ледокола высказал вице-адмирал Степан Осипович Макаров. По мнению вице-адмирала это могло дать существенный толчок для освоения Северного морского пути. В 1897 году российское правительство выделяет деньги на строительство ледокола, а Макаров был назначен руководителем комиссии. В работе этой комиссии активное участие принимал и известный русский химик Дмитрий Иванович Менделеев, вместе с Макаровым он занимался разработкой чертежей будущего ледокола.

Само строительство было доверено английской компании «Армстронг». В России решили, что судно будет носить имя «Ермак» — в честь известного атамана XVI века, покорителя Сибири. «Ермак» должен был стать первым в мире ледоколом, предназначенным исключительно для работ в суровых условиях Арктики. Для российской казны работы обошлись в очень внушительную сумму — 1,5 миллиона рублей.

Строительство ледокола завершилось в начале 1899 года. 19 февраля состоялось торжественное поднятие коммерческого флага. Было решено причислить «Ермак» к министерству финансов. 21 февраля ледокол отправился к берегам России, а 4 марта прибыл в Кронштадт. В пути ему довелось сражаться с ледяными заторами, в этой борьбе, пусть и не без труда, «Ермак» оказался победителем.

Уже через несколько дней «Ермак» вышел на первое задание, ему удалось освободить из ледяного плена 11 судов в районе Ревеля. После этой успешной операции даже скептики перестали сомневаться в целесообразности строительства такого дорогостоящего, но крайне необходимого русскому флоту судна.

В мае 1899 года «Ермак» отправился в длительный путь. Первоначально в английский порт Ньюкасл, а оттуда в Северный Ледовитый океан. На борту находилась научная экспедиция, которая провела целый ряд исследований. Ледоколу удалось достичь Шпицбергена, преодолев мощные льды Заполярья. Но и сам «Ермак» получил серьезные повреждения, вернувшись в Англию для капитального ремонта.

Специальная комиссия заявила, что подобные путешествия опасны для «Ермака», было принято решение о том, что его нужно использовать лишь в водах Финского залива. Хотя, первоначально вице-адмирал С. О. Макаров предполагал, что на «Ермаке» можно будет достигнуть Северного полюса.

Разрешение на очередную арктическую экспедицию Макарову удалось получить только летом 1900 года, а в путь ледокол отправился только в мае следующего года. Заранее было оговорено, что маршрут экспедиции будет продолжаться не далее устья Енисея.

Ледоколу не удалось достичь Новой Земли, как было запланировано, помешали непроходимые льды. «Ермак» был затерт ими и более месяца был вынужден находиться в дрейфе. Курс пришлось изменить и отправиться к Земле Франца-Иосифа. После окончания экспедиции, в котором «Ермак» вновь получил значительные повреждения, комиссия министерства финансов вынесла решение ограничить использование «Ермака» акваторией Балтийского моря. А Макарова отстранили от занимаемой должности.

Вскоре началась русско-японская война, в которой Степан Осипович Макаров погиб на броненосце «Петропавловск», который подорвался на мине. «Ермак» в это время помогал российским судам преодолевать льды Балтийского моря, чтобы иметь возможность отправится на Дальний Восток в район боевых действий. А в самом начале Первой мировой войны ледокол был включен в состав Балтийского флота.

На долю «Ермака» выпало три войны: русско-японская, Первая и Вторая мировые. В октябре 1941 года на нем были установлены орудия. Несмотря на почтенный возраст, ледокол исправно нес службу: проводил советские суда сквозь Финский залив, сопровождал подводные лодки. В 1949 году «Ермак» был награжден орденом Ленина за заслуги в Великой Отечественной войне и в связи с 50-летнм юбилеем судна.

В начале шестидесятых годов «Ермак» уже не мог соперничать с современным атомным ледоколом «Ленин». Дальнейшая его эксплуатация была признана нецелесообразной. В 1963 году «Ермак» был списан. Предполагалось, что заслуженный ветеран русского флота может стать музеем. Но, эта идея так и не была осуществлена. Судно было отправлено на утилизацию. Лишь отдельные фрагменты кают-компании и некоторые предметы с «Ермака» попали в Музей морского флота.