На основании Постановления Совнаркома СССР о расширении сети военно-учебных заведений Нарком Обороны СССР издал Приказ № 035 от 1 апреля 1937 года, согласно которому предписывалось «…сформировать в Севастополе ВМУ, по подготовке командных кадров для кораблей и частей флота. Вновь сформированному училищу присвоить наименование «2-е военно-морское училище». Первый набор в училище был проведен в училище в конце июля — начале августа 1937 г. Среди курсантов 1 набора, большинство были комсомольцы, прибывшие в училище по призыву ЦК ВЛКСМ: «Молодежь — в военные училища!» Строительство училища началось в июле 1937 г. военными строителями Черноморского флота при непосредственном участии курсантов первых наборов. Первоначально возводили два одноэтажных жилых корпуса. Одновременно велись работы по закладке фундамента первой очереди учебного корпуса, строительству котельной и бани. Жить курсантам первого набора пришлось в палатках, разбитых на берегу моря, недалеко от береговой батареи. Занятия проводились под открытым небом и в недостроенных помещениях. Одновременно с обучением, используя каждую минуту свободного времени, курсанты работали на строительстве училищных объектов. Зимой курсантов разместили на пароходе «Очаков», который был поставлен в бухте Стрелецкой. Были построены учебный корпус, котельная, прачечная, овощехранилище, два жилых двухэтажных корпуса, санитарная часть.
Для строительства нового училища выделялась территория более 50 га между бухтами Стрелецкой и Песочной. Это был настоящий пустырь. Никаких строений на отведенной территории не было, если не считать учебной береговой артиллерийской батареи казематного типа, построенной перед 1-й мировой войной.
Создать новое училище — дело трудное. Необходимо было решать одновременно ряд сложных проблем: строительство учебных, жилых и вспомогательных помещений; комплектование преподавательского и командного состава, проведение набора курсантов.
С началом Великой Отечественной войны в училище состоялись досрочные выпуски. Воспитанники ЧВВМУ своими мужеством, отвагой, высоким профессионализмом и безграничной любовью к Родине вписали гордое имя родного училища в боевую летопись флота на различных морских театрах военных действии. 1794 выпускника училища в боях с немецко-фашистскими захватчиками с честью прошли через горнило войны, вместе со всем народом приближали долгожданную победу. Тринадцать выпускников стали Героями Советского Союза, а двое были удостоены этого звания уже в мирное послевоенное время. Среди его воспитанников — Герой Социалистического Труда и пять Героев Российской Федерации.
После окончания Великой Отечественной войны 4 апреля 1946 года было принято решение о восстановлении Черноморского военно-морского училища для подготовки командиров малых кораблей со временем обучения два года.
30 апреля 1947 года в соответствии с Постановлением Президиума Верховного Совета СССР от 27 января 1947 года училищу было вручено Боевое Знамя части, под которым ЧВВМУ впервые после войны принимало участие в параде войск Севастопольского гарнизона 1 мая 1947 года.
В конце 40-50 годов в училище началось активное строительство новых учебных жилых и бытовых зданий и сооружений. К октябрю 1951 года окончено строительство спального корпуса на 1200 мест. Это красивое трехэтажное здание, увенчанное шпилем, монтаж которого выполнялся башенным краном, впервые использованным в Севастополе. Также в этом году был построен лабораторный корпус, баня, прачечная, инженерные сети, было сдано в эксплуатацию здание столовой на 1000 посадочных мест. Новая курсантская столовая позволяла в одну смену принимать пищу всему личному составу училища.
3 апреля 1975 года Указом Президиума Верховного Совета СССР за большие заслуги в подготовке офицерских кадров для Вооруженных Сил и в связи с 30-летием Победы в Великой Отечественной войне 1941-1945 гг. ЧВВМУ им. П.С. Нахимова было награждено орденом Красной Звезды. В июне 1983 года в честь 200-летия Черноморского флота и города-героя Севастополя был сооружен памятник Выпускникам училища с установленной на нем первой крылатой ракетой «П-15».
С 1937-го по 1992 год училище подготовило более 16. 000 офицеров, из которых 76 выпускников стали адмиралами и генералами, некоторые стали командующими флотов, начальниками управлений министерств, России и Украины. В ЧВВМУ имени П.С. Нахимова готовили корабельных специалистов по штурманской, артиллерийской, минно-торпедной, ракетной, противолодочной специальностям.
В 1992 г. постановлением Кабинета Министров Украины на базе бывшего Черноморского высшего военно-морского ордена Красной Звезды училища имени П.С. Нахимова и Севастопольского высшего военно-морского инженерного училища был создан Севастопольский военно-морской ордена Красной Звезды институт ВМС ВС Украины имени П.С. Нахимова. В 2009-м была образована Академия военно-морских сил Украины имени П.С. Нахимова, которая являлась единственным высшим военно-морским учебным заведением Украины до 2014 года.
После проведения референдума о провозглашении независимости Республики Крым с последующим воссоединением Крыма и Севастополя с Российской Федерацией 20 марта 2014 года Президент РФ Владимир Путин по предложению МО РФ Сергея Шойгу подписал Распоряжение о возрождении Черноморского высшего военно-морского ордена Красной Звезды училища имени П.С. Нахимова.
13 мая 2014 года, в День Черноморского флота, училище имени П.С. Нахимова вручено Боевое знамя нового образца.
В настоящее время ЧВВМУ обеспечивает полную военно-специальную подготовку офицеров и старшин по 7 специальностям. Обучение проводится в соответствии с федеральными государственными образовательными стандартами третьего поколения. Формирование у курсантов необходимых военно-профессиональных компетенций обеспечивается строгим соблюдением квалификационных требований к военно-профессиональной подготовке выпускников, утверждённых главнокомандующим ВМФ.