В 1883 году он начал врачебную деятельность в частной психиатрической лечебнице М.Ф. Беккера. Эта лечебница для душевнобольных была первым в Москве уголком московской психиатрической, или корсаковской, школы. С января 1885 года по сентябрь 1887 г. заведовал лечебницей для душевнобольных в Тамбове. С 1888 г. в Тамбовской лечебнице для больных были - отменены смирительная рубашка и кожаные рукава. Широко стали применять труд и развлечения для больных, причем хронические больные составляли главный контингент работавших и принимавших участие в прогулках и других празднествах. Сербскому местным земством была предоставлена командировка в Австрию, где он почти год проработал в Венской психиатрической клинике.
Затем был избран на должность старшего ассистента психиатрической клиники Московского университета имени А. А. Морозова. В 1891 году защитил диссертацию на степень доктора медицины «Формы психического расстройства, описываемые под именем кататонии», и в 1892 г. получил звание приват-доцента. В 1902 г. назначается экстраординарным профессором и директором психиатрической клиники. Сербский разрабатывал вопросы диагностики основных форм психозов. Впервые в мире он установил, что некоторые болезненные проявления, наблюдаемые у взрослых больных, являются следствием детского слабоумия. Постепенно Сербский сформировал основные принципы методики определения степени вменяемости больного.
Сербский фактически стал главным психиатром в России. В 1903 году он возглавил кафедру психиатрии Московского университета, которой руководил до 1911 года. Большой интерес представляют работы Сербского о полиневритическом психозе (Корсакова болезнь), об органических психозах, о смешанных формах (везаниях), об острых психозах, ряд полемических статей (частью на французском и английском языках), «К вопросу о раннем слабоумии» (1902), в которых дан исторический обзор и детально описана клиническая картина с глубоким анализом изучаемых состояний. Сербским написаны «Краткая терапия душевных болезней» (1911), изданная дважды, в которой он высказал ряд важных положений по психогигиене и профилактике психических заболеваний, а также учебник («Психиатрия», 1912), который выдержал 4 издания, и руководство по общей и частной психиатрии.
Он был первым преподавателем Московского университета, читавшим с 1892 года лекции по судебной психиатрии студентам юридического и медицинского факультетов. Результатом этих занятий стали два тома «Судебной психиатрии» (в 1895 году был издан первый том, в 190-м — второй), явившиеся первым в России руководством, в котором освещались вопросы судебно-психиатрической теории и практики, законодательства для психических больных. Он боролся за постановку и клиническое ведение судебно-психиатрической экспертизы.
В 1911 году одной из причин закрытия властями I съезда Русского союза психиатров и невропатологов, созванного в память С.С. Корсакова, была речь Сербского, направленная против политической системы. Бывший директор психиатрической клиники доживал свой век в бедности. 23 марта (5 апреля) 1917 года Сербский. С 1921 года его имя носит Центральный институт судебной психиатрии в Москве.
Научные труды «Отчет об осмотре психиатрических заведений в Австрии, Швейцарии, Франции, Германии и России, представленный тамбовской губернской земской управе» (Тамбов, 1886); «Отчет о состоянии лечебницы для душевнобольных при тамбовской земской больнице» (1886); «Об острых формах умопомешательства» («Медицинское Обозрение», 1891, № 3); «Обзор отчетов о состоянии заведений для душевнобольных в России за 1890—1900 годы» («Медицинское Обозрение», 1893—1902 годы); «По поводу проекта организации земского попечения о душевнобольных московского губернского земства» (М., 1893); «Преподавание психиатрии для юристов» («Сборник Правоведения», 1893); «О судебно-психиатрической экспертизе» («Труды V съезда Общества Русских Врачей в память Н. И. Пирогова»); «Судебная психопатология» (вып. I и II, Москва, 1896—1900); «Об условиях помещения душевнобольных, совершивших преступления, в психиатрические больницы по определению суда и освобождения их. Международный союз криминалистов. Русская группа» («Журнал Министерства Юстиции», февраль 1901 года); «К вопросу о раннем слабоумии (Dementia praecox)» («Журнал имени С. С. Корсакова», кн. 1 — 2, 1902); «Продолжительность, течение и исходы душевных болезней» (ib., 1906, кн. 3); «Распознавание душевных болезней» (ib., 1906, кн. 4 и 5); «Руководство к изучению душевных болезней» (М., 1906).