徐小岩出生于1947年2月,山西五台人,徐向前元帅长子。1968年2月参加工作,时年21岁。高中毕业时,文革爆发,1968年武斗最激烈又恰逢上山下乡开始参军,1972年作为工农兵大学生,保送清华,1975年毕业于清华大学计算机系。中将军衔。
1968年入伍成为山东石岛一名海军战士,1972年就读清华大学计算机系,毕业后前往加拿大深造,获得计算机硕士学位。
回国后,徐小岩和第二炮兵某研究所的同事们一起研制出了中国第一代汉字计算机。曾任总参谋部通信部部长。
1994年晋升少将军衔。
2005年7月升任南京军区副司令员,06年1月任总装备部科技委员会副主任,中将军衔。
全国政协委员、解放军原总装备部科技委员会副主任。