Альбом Sabbath, "Never Say Die" (1978) (warner Brothers), едва ли стал коммерческим разочарованием, а мощное турне в его поддержку собирало толпы по всей стране. Однако, группа – Айомми, вокалист и "Князь Тьмы» Оззи Осборн, басист Гизер Батлер и барабанщик Билл Уорд – почувствовали, что становятся слишком клевыми, играя свой блюз-рок. Однако никто из этой четверки никогда серьезно не изучал и не практиковал черную магию, как отмечает сам Айомми: "мы всегда интересовались этой темой не дальше просмотра хороших ужастиков».
Black Sabbath были сформированы в Бирмингеме, Англия, на родине Led Zeppelin, The Moody Blues и ELO, среди прочих. Тони, сын плотника, родился в "обычной, бедной бирмингемской семье». Однако, вовсе не бесхитросный пацан, молодой Айомми увлекался в основном боксом и рестлингом. Но тогда ему не хватило увлеченности и желания принести необходимую физическую жертву для того, чтобы преуспеть на данном поприще (однако, репортер "Melody Maker», который не так давно бился с Тони на кулаках может подтвердить его грубый талант). Будучи подростком, Айомми оставил боксерский ринг, когда вместе со своей группой он начал регулярно выступать на бирмингемских танцплощадках.
На пару с другом детства Биллом Уордом он играл в многочисленных группах, прежде, чем в 1968 к ним присоединились Оззи и Гизер. Их первая группа называлась Eath. Несмотря на то, что тогда они еще не играли хэви металл, Айомми описал Earth как "достаточно неряшливую команду». Между тем, оказалось, что еще одна местная группа называется Earth, причем это была группа ханжей-модников игравших банальную попсню. И из-за этого несколько раз возникала путанность с концертами. "В один из вечеров», со смехом вспоминает Айомми, "мы пришли на концертную площадку, где нас явно приняли за другую группу Earth. Все были с галстуками-бабочками и в костюмчиках с хорошей отделкой как детские кровати, а мы на их фоне смотрелись натуральными грязнулями. И увидев нас, все были просто шокированы. Мы поняли, что что-то тут не так, когда их председатель ляпнул: "о, нам понравился ваш последний альбом». "Какой еще альбом? У нас нет ни одного альбома». Тогда он побледнел и прошептал: "Ой, тогда вам лучше сегодня не выступать. В противном случае, толпа вас просто растерзает». Но, тем не менее, мы вышли и отыграли», добавляет Тони злорадно, "и всем понравилось».
 В начале 70-х, группа переименовалась в честь песни "Black ". Sabbath записали парочку хорошо принятых (в плане хороших продаж, а не в плане признания критиков – критики никогда их не любили) альбомов. Тони Айомми вспоминает, как на одном из их концертов к нему подошел его друг, Элвин Ли из группы Ten Years After. "Слишком громко», сказал Айомми Ли. "С таким звуком вы никогда некуда не пробьетесь».
"Я думаю, что из-за созданного нами имиджа», говорит Айомми, "люди банально боялись к нам приближаться, так как считали нас настоящими сатанистами». Этот страх испытывали и радио ди джеи отказывавшиеся гонять такие саббатовские песни, как "Paranoid», "War Pigs» и "Iron Man». Песни группы до сих пор редко гоняют по американскому радио.