В качестве источника ионов используется острие из вольфрама, аналогичное применяемому в электронных микроскопах с автоэмиссионным катодом, к которому приложено высокое напряжение. В отличие от автоэмиссионного катода электронных микроскопов это острие проходит стадию дополнительного формирования – термополевого испарения. Пучки от двух атомов обрезаются диафрагмой, и, таким образом, только один атом вольфрама используется в качестве рабочего источника электронов. Газообразный гелий ионизируется в сильном электрическом поле вблизи острия. Режим автоионного микроскопа делает возможным наблюдение за источником с атомарным разрешением, что применяется для юстировки и формирования источника, таким образом, что для создания ионного пучка используется одиночный атом вольфрама. Для достижения высокой степени ионизации, которая определяет ток ионного пучка, а также для сохранения формы источника необходимо поддержание острия в сильном электрическом поле при температуре ниже 100 К.
Испускаемые катодом ионы ускоряются и формируются в пучок, проходящий через диафрагму, конденсаторные линзы, и объективную линзу, которые существенно уменьшают изображение источника ионов, фокусируя его на поверхность образца. Когда на образец попадает сфокусированный пучок ионов, возникает несколько сигналов: испускаются вторичные и отраженные электроны, часть потока электронов проходит через образец, а часть поглощается им.
В результате взаимодействия ускоренных ионов с веществом атомам и электронам вещества сообщается кинетическая энергия. Вследствие этого часть электронов вылетает из вещества в вакуум и улавливается детекторами вторичных электронов. Некоторое количество ионов гелия отражается от атомов вещества обратно. Помимо этого, определенная часть атомов может быть выбита из вещества налетающими ионами. Это приводит к распылению материала.
Импульс налетающих ионов мал по сравнению с импульсом налетающих электронов и недостаточен для эффективного возбуждения глубоких уровней атомов, поэтому в сканирующем ионном микроскопе не наблюдается возбуждения рентгеновского излучения.