В 1913 г. получил звание магистра физики, а в 1915 за исследование упругих и электрических свойств кварца — степень доктора физики. В 1913 был избран профессором.
Наряду с интенсивной исследовательской работой, А.Ф. Иоффе много сил и времени уделял преподаванию. Он читал лекции не только в Политехническом институте, профессором которого стал в 1915 г., но также на известных в городе курсах П.Ф. Лесгафта, в Горном институте и в университете. Самым главным в этой деятельности Иоффе была организация в 1916 г. семинара по новой физике при Политехническом институте. С 1918 — руководитель организованного по его предложению физико-технического отдела Гос. рентгенологического и радиологического ин-та в Петрограде, а затем до 1951 — директор Физико-технического ин-та АН СССР, созданного на основе этого отдела.
Абраму Федоровичу принадлежит заслуга организации в 1919 г. при Политехническом институте факультета нового типа: физико-механического, деканом которого он также был более 30 лет. Его научная работа была сосредоточена в стенах ФТИ, одной из лабораторий которого он неизменно заведовал, хотя тематика ее исследований, как и название, претерпели изменения. В 20-е годы основным направлением работы было изучение механических и электронных свойств твердого тела.
Начало 30-х годов ознаменовалось переходом ФТИ на новую тематику. Основным направлением стала ядерная физика. А.Ф. Иоффе непосредственно ею и занимался. С начала 30-х годов собственная научная работа А.Ф. Иоффе сосредоточилась на другой проблеме — проблеме физики полупроводников, и его лаборатория в ФТИ стала лабораторией полупроводников.
По его инициативе начиная с 1929 г. были созданы Физико-технические институты в крупных промышленных городах (Харькове, Днепропетровске, Свердловске, Томске), Институт химической физики АН СССР. В годы войны Иоффе был участником строительства радиолокационных установок в Ленинграде, во время эвакуации в Казани был председателем Военно-морской и Военно-инженерной комиссий. В 1952–1955 возглавлял лабораторию полупроводников АН СССР.
В 1950 г. А.Ф. Иоффе разработал теорию, на основе которой были сформулированы требования к полупроводниковым материалам, используемым в термо-батареях и обеспечивающим получение максимального значения их КПД. Вслед за этим в 1951 г. Л.С. Стильбансом под руководством А.Ф. Иоффе и Ю.П. Маслаковца был разработан первый в мире холодильник. Это послужило началом развития новой области техники — термоэлектрического охлаждения.
Иоффе – автор множества монографий и учебников. Большой популярностью пользовались его Лекции по молекулярной физике (1919), им был написан 1-й том Курса физики – Основные понятия из области механики. Свойства тепловой энергии. Электричество и магнетизм (1927, 1933, 1940), а также (совместно с Н.Н.Семеновым) первая часть 4-го тома Молекулярная физика (1932, 1935). В середине 1930-х годов под его руководством прошло обсуждение принципов построения курса физики для технических вузов; одним из результатов этих бурных дискуссий стало издание замечательного курса общей физики Г.С.Ландсберга. Иоффе был членом многих академий наук: Гёттингенской (1924), Берлинской (1928), Американской АН наук и искусств (1929), почетным членом АН Германии «Леопольдина» (1958), Итальянской АН (1959), почетным доктором Калифорнийского университета (1928), Сорбонны (1945), университетов Граца (1948), Бухареста и Мюнхена (1955).
Умер Иоффе в Ленинграде 14 октября 1960.