С 1921 по 1933 гг. Иоффе часто ездил в научные командировки за границу (Европу, США) и участвовал в качестве делегата в международных конгрессах. В 1921 г. была организована группа для налаживания разорванных войной научных и технических связей с Европой. В эту группу вошли А.Ф. Иоффе – основатель ФТИ, Д.С. Рождественский – основатель Государственного оптического института, широко известный математик, учёный, кораблестроитель А.Н. Крылов и П.Л. Капица. Ее участники в течение нескольких лет работали в Англии, Франции, Германии. Оттуда Иоффе привёз для Физтеха 42 ящика с научным оборудованием и подписку более чем на 50 журналов.
В 1928 г. в личной жизни ученого произошли серьезные изменения – он вступил во второй брак. Его женой стала Анна Васильевна Ечеистова (Иоффе). Она окончила физический факультет Ленинградского университета, работала в ФТИ и после замужества стала ближайшей сотрудницей Иоффе в его экспериментальных исследованиях по физике полупроводников, верной спутницей и помощницей.
А.Ф. Иоффе принимал непосредственное участие в Атомном проекте.
Еще во время своей работы в лаборатории Рентгена в 1903–1906 гг. Иоффе выполнил ряд крупных исследований по радиоактивности, результаты которых в то время не были опубликованы. Хотя он и не занимался специально ядерной физикой, но сделал очень важное предсказание о возможности ядерных превращений с помощью искусственного ускорения субчастиц, зафиксированное в отчетах о научной работе ЛФТИ за 20-е гг. Эта идея Иоффе нигде не публиковалась, но высказана она была за несколько лет до изобретения Э.Лоуренсом в 1932 г. первого в мире ускорителя частиц.
Специальным приказом по ЛФТИ Иоффе предусмотрел необходимость создания ядерных семинаров, регулярно проводившихся с ноября 1932 г. пять раз в месяц. Способствовал переориентации И.В. Курчатова в начале 30-х годов с сегнетоэлектрической на ядерную проблематику и всемерно поддерживал эти работы. В декабре 1932 г. он создал Группу по ядру во главе с Курчатовым, а в 1933 г. поручил ему руководство отделом ядерной физики ЛФТИ.
Если попытаться составить список научных достижений А.Ф. Иоффе, то, по его собственному утверждению, можно назвать четыре кардинальные проблемы, которым он и коллектив его учеников и сотрудников уделял самое пристальное внимание и для решения которых были приложены максимальные усилия:
Механические свойства твердых тел. В этой области Иоффе внес большой вклад в физику и технику полупроводников. В своей докторской диссертации решил задачу упругого последействия в кристаллах (1905). Провел ставшие классическими исследования пластической деформации рентгеновским методом. Изучал механические свойства кристаллов и установил, что характер разрушения кристаллов при данной температуре определяется соотношением между пределом текучести и пределом прочности; это открытие имело большое значение для техники. Объяснил реальную прочность кристаллов (1922).
Электрические свойства твердых изоляторов. Решил задачу об электрических аномалиях кварца, показав, что они связаны с образованием объемных зарядов внутри кварца. Показал сильное влияние незначительных примесей на электропроводность диэлектриков. Разработал методы очистки кристаллов. Разработал методы устранения перенапряжений в кристаллах.