Ajunsă la putere, Legiunea a aplicat legi antisemite dure
și jafuri organizate ale avutului minorității evreiești, însoțite de arestări samavolnice, schingiuiri și asasinate. Legionarii au asasinat și alți cetățeni români, neevrei, pe motive politice, „morale” (homosexuali reali sau presupuși) și adesea, din răfuieli personale. Dintre asasinați, circa 2/3 au fost români și 1/3 evrei, dar, comparativ cu procentul evreilor din totalul populației române, legionarii au ucis circa 20 de evrei la fiecare neevreu ucis. Odată ajunsi la putere, Sima și Antonescu au inceput sa se certe. Potrivit istoricului Stanley G. Payne, Antonescu intenționa să creeze o situație similară cu cea a regimului lui Francisco Franco în Spania, în care Legiunea să fie subordonată statului. El a cerut ca Sima să-i cedeze conducerea generală a Legiunii, dar Sima a refuzat.
Sima a cerut guvernului să urmeze „spiritul legionar”, iar
toate funcțiile majore să fie deținute de legionari. Alte grupuri urmau să fie dizolvate. Politica economică, a spus Sima, ar fi trebuit să fie coordonată îndeaproape cu Germania. Antonescu a respins cererile lui Sima și a fost alarmat de echipele Gărzii de Fier. El a decis să-și aștepte timpul până când va avea șansa de a distruge Legiunea o dată pentru totdeauna.
La 14 ianuarie 1941, Horia Sima și legionarii au
declanșat o lovitură de stat, un război civil, împotriva lui Antonescu și a armatei române. Antonescu a reușit să învingă în trei zile rebeliunea legionară, Legiunea fiind înlăturată de la guvernare. În perioada premergătoare încercării de lovitură de stat, diferite facțiuni ale guvernului german au sprijinit diferite părți din România, cu SS care sprijină Garda de Fier, în timp ce armata și Ministerul Afacerilor Externe, Auswärtiges Amt, l-a sprijinit pe generalul Antonescu. Baronul Otto von Bolschwing din SS, care era staționat la ambasada Germaniei la București, a jucat un rol major în contrabanda cu arme pentru Garda de Fier. Hitler l-a sprijinit pe Antonescu, de la care se aștepta să atragă și să conducă România în războiul antisovietic, păstrându-i pe legionari ca pe o contrapondere, ca pe o amenințare menită să-i asigure fidelitatea conducătorului. Horia Sima și alți fruntași legionari s-au refugiat în Germania (unde au fost cazați în lagărele de concentrare Buchenwald, Dachau și Rostock, având însă o relativă libertate de mișcare). In acelasi timp, membrii Gărzii de Fier au pus la cale cel mai mare pogrom din istoria Munteniei, în care au fost uciși peste o sută de evrei, iar parte dintre aceștia au fost atârnați în cârlige la abator unde cadavrele le-au fost pângărite și mutilate.
Eșecul Rebeliunii, atribuit de o parte dintre legionari sub
conducerea tatălui lui Corneliu Zelea Codreanu, conducerii dezastruoase a lui Horia Sima și a campaniei anti-legionare pornită de Ion Antonescu a dus la scindarea miscarii legionare în două grupări inamice, „simiștii” - rămași credincioși lui Horia Sima - și „codreniștii” sub conducerea lui Ion Zelea Codreanu. Divergențele, acuzațiile reciproce, altercațiile dintre cele două grupări antagoniste au continuat până la epuizarea fizică a implicaților.