По существовавшей тогда традиции молодые ученые обязательно проходили стажировку в передовых западноевропейских лабораториях. Зелинского также командировали в качестве факультетского стипендиата в Германию. Зелинскому удалось собрать материалы для диссертации. В ходе работы Зелинский получил промежуточный продукт — дихлорэтилсульфид, названный впоследствии ипритом и ставший одним из сильнейших отравляющих веществ. По возвращении из-за границы в 1988 году Зелинский сдал магистерский экзамен и был зачислен внештатным приват-доцентом Новороссийского университета. Стал читать лекции по органической химии, начал самостоятельную научную работу, в 1889 году защитил магистерскую диссертацию. В 1890 году вступил в должность штатного приват-доцента Новороссийского университета. В 1891 году Зелинский блестяще защитил докторскую диссертацию «Исследование явлений стереоизомерии в рядах предельных углеродистых соединений». Он одним из первых исследовал пути синтеза стереоизомерных двухосновных кислот. Серия проведенных исследований сделала достоянием практики методы получения замещенных янтарных, глутаровых, адипиновых, пимелиновых кислот и диоксикислот жирного ряда.
Летом 1891 года Зелинский получает неожиданное приглашение принять участие в глубоководной экспедиции по исследованию Черного моря. Во время экспедиции он взял для анализа пробы грунта с разных глубин в пяти различных пунктах Черного моря, чтобы выяснить источник сероводорода в Черном море. Анализы Зелинского убедительно показали, что сероводород в море является продуктом жизнедеятельности особых бактерий, живущих на дне моря.
В 1893 году переехал в Москву, был назначен экстраординарным профессором Московского университета. Читал основной курс органической химии для студентов естественного отделения, вел практические занятия по аналитической и органической химии, в течение ряда лет по приглашению И. М. Сеченова читал курс органической химии студентам медицинского факультета. С 1893 по 1911 опубликовал свыше 200 научных статей. Важным объектом научных исследований этого периода стала нефть, результатом исследований явился пуск первого в России производства термического крекинга нефти. В 1906 Зелинский впервые разработал доступный метод получения альфа-аминокислот, объяснил механизм реакции, синтезировал большое количество аминокислот.
Зелинский успевал вести и большую общественную работу. Он организовал на Высших женских курсах кафедру органической химии, создал прекрасную лабораторию. В начале 1900-х годов Зелинский участвовал в создании Центральной лаборатории Министерства финансов в Москве, в 1908 — в открытии Народного университета им. Шанявского.
Исследования Зелинского были направлены на определение химических свойств углеводородов, разработку синтетических методов их получения. Они сыграли особую роль в последующей многолетней работе ученого по созданию методов переработки нефти и по нефтехимическому синтезу. Особое внимание Зелинского привлекали циклические нафтеновые углеводороды. Один за другим в лаборатории Зелинского синтезировались циклоалканы. Еще через два года были получены циклы невиданных размеров — по 20 и 40 атомов углерода в кольце.
В 1911 году в знак протеста Зелинский вместе с группой прогрессивных профессоров покинул университет и переехал в Петербург. В Петербурге ему не удалось получить место профессора в высшем учебном заведении. Он вынужден был работать в примитивно оборудованной лаборатории Министерства финансов. Здесь он увлекся изучением сложнейших по составу и химическому строению белковых молекул. Он считал, что в состав белковой молекулы входят не только аминокислоты, содержащие открытую цепь, например аминоуксусная кислота NH2CH2COOH, но и циклические группировки, например дикетопиперазин: Николай Дмитриевич осуществил каталитический гидролиз белковых веществ при высокой температуре и повышенном давлении в присутствии слабых кислот и щелочей. Изучая продукты гидролиза, он пришел к выводу о важной роли дикетопиперазинов в построении молекулы белка. Именно в эти годы ученый разработал угольный противогаз, оказавшийся наилучшим средством защиты от отравляющих веществ. В качестве поглотителя он использовал активированный уголь. Он вместе с В. С. Садиковым разработал способ активирования угля путем прокаливания, что значительно увеличило его поглотительную способность.
Уже в период гражданской войны, когда Россия была отрезана от главных нефтяных районов, Зелинский разработал метод каталитического крекинга тяжелых нефтяных отходов (мазута) и масел, значительные запасы которых находились в волжских нефтяных цистернах и нефтехранилищах. Получившаяся в результате крекинга смесь углеводородов имела температуру кипения в интервале 25–180 °С и была пригодна в качестве топлива для немногочисленных еще тогда самолетов Красной Армии.
После Февральской революции 1917 года Зелинский получил право вернуться в Московский университет и снова переехал в Москву. После Октябрьской революции 1917 года он продолжил работу на кафедре. С 1918 года Зелинский участвовал в решении неотложных проблем, стоявших перед страной, изучал методы получения бензина из мазута, опубликовал большое количество статей о катализе, синтезе новых соединений, происхождении нефти, холестерине, белковых веществах, синтезе каучука и других. В 1935 активно участвовал в организации института органической химии АН СССР. Огромна заслуга Зелинского в решении проблем моторного топлива для авиации, тракторов и автомобилей. С его участием был разработан синтетический бензин, позволивший резко увеличить мощность моторов и скорость самолетов. После начала Великой Отечественной войны Зелинский с группой других ведущих ученых был эвакуирован в Северный Казахстан. В 1942 году Николай Дмитриевич предложил метод получения толуола на основе бензола и метана. В сентябре 1943 года он вернулся в Москву и приступил к своим многочисленным обязанностям в университете и Академии наук СССР. Исследования в области спироцикланов, ароматических углеводородов, химии аминокислот и белка — вот круг его научных интересов в эти годы. Зелинский стал одним из основоположников новых отраслей химии - химии нефти, химии циклопарафинов, химии белка, органического катализа, химии сверхвысоких давлений. Он создал крупную школу ученых, внесших фундаментальный вклад в различные области химии. Всего он написал около 600 научных трудов
Зелинский был избран членом многих академий и научных обществ мира. Высоко оценена деятельность ученого и на Родине. В 1926 г. Зелинский получил звание «Заслуженный деятель науки СССР» и в том же году был избран членом-корреспондентом Академии наук СССР, а в 1929 г. – ее действительным членом. Ученый – лауреат премии им. В.И.Ленина (1934), трижды лауреат Государственной премии СССР (1942, 1946, 1948). Ему было присвоено звание Героя Социалистического Труда (1945). Четыре раза Зелинский был награжден орденом Ленина и два раза – орденом Трудового Красного Знамени. Его имя присвоено (1953) Институту органической химии АН СССР (ныне РАН). Умер он 31 июля 1953 года.