Z inicjatywy polskich środowisk akademickich oraz członków „Sokoła” i Związku Strzeleckiego z chwilą wybuchu wojny 1 sierpnia 1914 r. we Francji został utworzony Komitet Wolontariuszy Polskich, który organizował ochotników do służby wojskowej. Władze francuskie były przychylne tej inicjatywie, jednak wobec sprzeciwu ambasady rosyjskiej wkrótce została ona zarzucona. Z zarejestrowanych ochotników utworzono dużych Bayonnie „Legion Bajończyków”, który jako 2 kompania 1 pułku Legii Cudzoziemskiej uczestniczył w walkach na terenie Szampanii dużych okolicy Remis dużych Arras, gdzie 9 maja 1915 r. wyróżnił się w czasie ataku na wzgórze Vimy. Resztki kompanii 16 czerwca nacierały na cmentarz w Souchez, po czym wobec strat oddział rozwiązano. Część bajończyków wcielono do armii francuskiej, część powróciła do kraju.
Dopiero w 1917 r., po wybuchu rewolucji w Rosji i rozkładzie moralnym formacji rosyjskich m.in. na froncie francusko-niemieckim, zaistniały warunki do tworzenia wojsk polskich na tym terenie. 4 czerwca został ogłoszony dekret prezydenta Raymonda Poincarégo, zezwalający na formowanie pod francuskim dowództwem polskiej armii. Jej organizację i utrzymanie zapewniał rząd Francji.
Oddziały tworzono w oparciu o Polaków zwolnionych ze służby w armii francuskiej bądź rosyjskiej we Francji, a także o ochotników z Francji, Kanady, Stanów Zjednoczonych, Brazylii, Argentyny, Holandii i Wielkiej Brytanii oraz jeńców wojennych. Dowódcą tej armii został Francuz, gen. Louis Archinard (stał też na czele Wojskowej Misji Francusko-Polskiej), zaś szefem sztabu ppłk Adam Mokiejewski. Szkolenie żołnierzy odbywało się w obozach na terenie Francji i Włoch. Pierwszy z nich usytuowano w Sille de Guillaume.
Po utworzeniu przy poparciu władz rosyjskich w dniu 15 sierpnia 1917 r. Komitetu Narodowego Polskiego z Romanem Dmowskim na czele (początkowo jego siedziba mieściła się w Lozannie, potem w Paryżu), tworzone we Francji polskie wojska uzyskały zaplecze polityczne. Do końca roku komitet został uznany przez trzy rządy państw koalicyjnych za oficjalne przedstawicielstwo Polski.
Początkowo tworzenie wojska we Francji przebiegało niezwykle wolno – brakowało odpowiedniej liczby ideowych ochotników. Dopiero ich przybycie z obu Ameryk rozwiązało problemy osobowe. 17 grudnia powołano 1 Pułk Strzelców Polskich (dowódca płk Julian Jasieński), po czym rozpoczęto formowanie 2 i 3 Pułków Strzelców Polskich oraz oddziałów kawalerii, artylerii i wojsk technicznych. W marcu 1918 r. Armia Polska we Francji liczyła ponad 8300 ludzi, miesiąc później przeszło 10 000, by jesienią osiągnąć stan powyżej 17 000 żołnierzy.
Zgodnie z umową francusko-polską z 22 lutego 1918 r. Komitet Narodowy Polski otrzymał kierownictwo polityczne armii, prawo decydowania o polskości zgłaszających się ochotników, wyrażania zgody na nominacje oficerów. Zgodnie z tym porozumieniem oddziały mogły zostać użyte na innym niż zachodnim froncie tylko za zgodą komitetu.
31 maja 1 Pułk Strzelców Polskich ze szwadronem kawalerii i kompanią saperów wyruszył z obozu Mailly do Somme-Puis w Szampanii, gdzie został przydzielony do 163 DP, wchodzącej w skład 4 Armii. 18 czerwca Polacy podjęli akcję bojową w rejonie Reims. Od 14 lipca pułk pozostawał w dyspozycji dowódcy 170 DP. Szczególnie wyróżnił się pod Saint Hilaire le Grand, gdzie 25 lipca podczas ataku na pozycję Bois de Raquette wziął 120 jeńców i zdobył 12 karabinów maszynowych. Sam stracił około 100 poległych i 500 rannych żołnierzy. W połowie następnego miesiąca pułk został wycofany na tyły, gdzie wraz z 2 i 3 Pułkiem Strzelców Polskich utworzył 1 dywizję.
Dywizja ta wzięła udział w działaniach na terenie Wogezów. Do 5 listopada przebywała na biernym odcinku frontu, po czym została skoncentrowana w rejonie Nancy, skąd miała wyruszyć do natarcia na obszar Alzacji. Wobec podpisania rozejmu (11 listopada) do ataku tego nie doszło. 1 dywizję przesunięto do Luneville, gdzie ześrodkowano wszystkie polskie formacje.
13 lipca dotarł do Paryża gen. Józef Haller, który objął funkcję przewodniczącego wydziału wojskowego Komitetu Narodowego Polskiego. 28 września została podpisana nowa umowa między komitetem a rządem francuskim. Komitet Narodowy Polski uznano za najwyższą władzę polityczną Armii Polskiej, miał on w porozumieniu z władzami Francji mianować polskiego Naczelnego Wodza. Natomiast Wojskowa Misja Francusko-Polska została przekształcona w organ zaopatrzenia wojsk i miała pełnić rolę łącznika między Armią Polską a władzami francuskimi. 4 października funkcję Naczelnego Wodza uzyskał gen. Józef Haller.
Oprócz wojsk polskich we Francji podporządkowano mu znajdujące się na terenie Rosji dywizje gen. Lucjana Żeligowskiego i płk. Kazimierza Rumszy oraz oddział murmański. W rzeczywistości jednostki te pozostawały pod zwierzchnictwem szefów tamtejszych francusko-brytyjskich misji wojskowych.
Mimo zakończenia działań wojennych na froncie zachodnim Armia Polska we Francji była w dalszym ciągu rozbudowywana. W tym też celu wykorzystywano jeńców we Włoszech, tworząc z nich nowe jednostki, potem przewiezione do Francji. Z czasem wojsko gen. Hallera składało się z dwóch korpusów, obejmujących 5 dywizji, a ponadto z dywizji instrukcyjnej, pułku czołgów, 7 eskadr lotniczych. Na wyposażeniu armii pozostawało m.in. ponad 170 dział i 30 działek piechoty oraz 120 czołgów. Posiadała ona olbrzymie zapasy materiałów wojskowych, których brak był silnie odczuwany w kraju.
Ze względów politycznych armia gen. Hallera przybyła do Polski dopiero w kwietniu-czerwcu 1919 r. i została zreorganizowana. Było to rozwiązanie wymuszone politycznie, gdyż Naczelny Wódz Sprzymierzonych marsz. Ferdynand foch udzielił gwarancji, iż nie zostanie ona użyta do działań przeciwko Niemcom. Podobnie na mocy decyzji państw zachodnich nie mogła wziąć udziału w walkach z Ukraińcami.
Z tego też względu polski Naczelny Wódz, Józef Piłsudski, dokonał reorganizacji armii, by móc wykorzystać w walce świetnie wyposażone wojska przybyłe z Francji. Ostatecznie 1 września 1919 r. armia gen. Hallera została połączona z krajową.