La police cherche à coincer le caïd de la pègre parisienne, Pépé le Moko (Jean Gabin), réfugié dans la Casbah d'Alger avec sa bande. Il y est intouchable, mais ne peut en sortir sans se faire arrêter. Sa vie bascule le jour où il tombe amoureux de Gaby (Mireille Balin), une jeune femme demi-mondaine, entretenue par un homme riche, ée là en touriste, représentant tout ce que la Casbah n'est pas : parisienne et sophistiquée. Cette relation est jalousée par Inès (Line Noro), la maîtresse de Pépé. L'inspecteur Slimane (Lucas Gridoux), lui, suit tout cela très attentivement : il compte sur les conséquences de ce triangle amoureux pour faire sortir le caïd de sa planque.