26 (14) сентября 1869 года был открыт музей Севастопольской обороны. Он стал первым музеем в нашем городе.
Инициатива по созданию учреждения, которое будет хранить память о героях Первой обороны Севастополя 1854-1855 годов, принадлежала ветеранам Крымской войны. Участник Инкерманского сражения П. В. Алабин в своей статье «Севастопольский музей» писал о том, что если современники хотят сохранить память о героизме защитников города, то лучшим решением станет основание музея:
«…Это будет долг чести оставшихся в живых перед прахом наших друзей и братьев, своей смертью купивших право на жизнь лучшую, по сравнению с той, которую пережили».
Идею поддержали и другие участники Первой обороны. Были собраны значительные средства и большое количество предметов, рукописей, документов, оружия, картин. В экспозицию передали саблю турецкого командующего Осман-паши, подзорную трубу адмирала П. С. Нахимова, награды М. П. Лазарева. Из личной коллекции императора Александра II в дар музею была передана картина И. К. Айвазовского.
Для размещения экспозиции один из руководителей обороны генерал Э.И. Тотлебен выделил пять комнат в собственном доме на ул. Екатериненской.
В июне 1892 года началось, а 5 октября 1895 года было завершено строительство собственного здания музея по проекту академика А. М. Кочетова. Строение отличал строгий классический стиль с чугунными и бронзовыми украшениями. . По обе стороны от главного входа установили пушки и мортиры, сохранившиеся со времен Крымской войны. В центре фронтона обозначили число дней обороны - 349. Сегодня в историческом здании располагается Музей Черноморского флота.
Во время Великой Отечественной войны здание было частично разрушена, а коллекция эвакуирована. После освобождения Севастополя в 1944 году началась реконструкция. 15 августа 1948 года музей вновь открылся для всех желающих и с тех пор не прекращал свою деятельность.