Территория Алжира была заселена еще 2 млн лет назад. Об этом свидетельствуют древние каменные орудия, обнаруженные около города Константина. Финикийцы появились здесь в XIII веке до н. э., но им пришлось строить свои колонии, ведя непрерывную войну с местными древнеливийскими племенами. Последние, видимо, были предками современных берберов. Они занимались скотоводством, охотой и земледелием. В VIII—IV веках до н. э. эти народы долго сражались против могущественного Карфагена, стремящегося к расширению и захвату находящихся рядом территорий. Известно, что в III веке до н. э. в этом районе существовали племенные союзы масесилов и массилов, которые в 202 году до н. э. правитель массилов Масинисса объединил в единое государство — Нумидию. Это древнейшее государство, располагавшееся на территории Алжира.
После разгрома Карфагена римляне обратили внимание на эти земли, а воинам Нумидии не удалось остановить их войска, и вскоре эта страна превратилась в одну из римских колоний. Это событие произошло во II веке до н. э. Но коренное население постоянно восставало против иноземцев. После восстания, произошедшего в 17 году н. э., которое было жестоко подавлено, значительная часть ливийских племен отошла в Сахару, где занялась кочевым скотоводством. В городах Нумидии распространился латинский язык, а во II веке активно насаждалось христианство.
Средиземноморское побережье в V веке было завоевано вандалами, а в VI веке — византийцами, но внутренние области по-прежнему принадлежали берберским племенам, которые в течение V века образовали здесь несколько сильных государственных союзов — Маграуа, Джедар и Джерауа.
В VII веке на территорию Алжира вторглись арабские племена, завоевали ее и включили в состав Омейядского халифата. Завоевание сопровождалось массовой исламизацией местного населения. Арабский язык существовал наряду с берберским и латинским.
В течение VIII—IX веков местные жители участвовали в арабских завоеваниях в Западном Средиземноморье, но внутри страны назревали общественные противоречия. Феодальная верхушка, выделившаяся из числа военно-родовой аристократии арабских племен столкнулась с массами коренных жителей, тоже мусульман. Возник хариджизм — движение за равенство и личную свободу мусульманских общин. Он стал символом антифеодальной борьбы. Из этого движения вскоре выделились ибадиты, которые в VIII веке создали на огромной территории имамат Ростемидов.
Территория Алжира в VIII—IX веках представляла собой ряд самостоятельных феодальных княжеств, отстранившихся от халифата. Самым крупным и сильным было княжество Ростемидов, но оно не устояло под натиском вторгшихся в страну с востока берберов кутума, которые считаются предками одного из народов Алжира — кабилов. Кутума составляли значительную часть войска вторгшихся и укрепившихся здесь Фатимидов. Местное население подверглось насильственному исмаилизму — направлению шиитской разновидности ислама. В середине X века хариджиты вновь подняли восстание, но Фатимидам оказали помощь берберы сан-хаджа, за что получили власть над Магрибом.