1920年11月，北京共產(chǎn)黨早期組織成員張申府赴法。行前，陳獨(dú)秀委托他在歐洲籌建中國的共產(chǎn)黨組織。

抵達(dá)法國后，他先后介紹已在法國的周恩來、劉清揚(yáng)參加了黨組織，并且與在國內(nèi)已經(jīng)加入黨組織的趙世炎、陳公培（吳明）一起于1921年在巴黎建立了旅法共產(chǎn)黨早期組織。

這個(gè)組織成立后，根據(jù)當(dāng)時(shí)的形勢，一致認(rèn)為為了有效地團(tuán)結(jié)教育廣大旅歐青年，應(yīng)該盡快建立一個(gè)旅歐青年共產(chǎn)主義團(tuán)體。

1922年6月，在趙世炎的主持下，18名代表，代表38名成員，在巴黎西郊布倫森林中一個(gè)廣場上集會(huì)，經(jīng)過了3天的討論，宣告成立了“旅歐中國少年共產(chǎn)黨”。

旅歐少年共產(chǎn)黨成立后，得悉國內(nèi)已經(jīng)建立了中國共產(chǎn)黨和中國社會(huì)主義青年團(tuán)，于是便在當(dāng)年10月召開大會(huì)，經(jīng)全體總投票，決定加入中國社會(huì)主義青年團(tuán)。

11月20日，“旅歐中國少年共產(chǎn)黨”寫信給團(tuán)中央，表示“我們?cè)父綄儆趪鴥?nèi)青年團(tuán)，為其旅歐之部”。此信由李維漢攜帶回國，并委派他為旅歐少年共產(chǎn)黨的代表，向團(tuán)中央正式接洽。1923年1月2日，黨中央寫信給他們，指示他們“依中央第十次會(huì)議議決國外組織的辦法加入青年團(tuán)”。

正在這時(shí)，率領(lǐng)中共代表團(tuán)到莫斯科出席共產(chǎn)國際第四次大會(huì)的陳獨(dú)秀也給他們回信，建議他們將“旅歐中國少年共產(chǎn)黨”改名為“中國共產(chǎn)主義青年團(tuán)旅歐之部”，將它的“中央執(zhí)行委員會(huì)”改為“旅歐執(zhí)行委員會(huì)”。
 

1923年2月17日至20日，“旅歐中國少年共產(chǎn)黨”在巴黎郊外召開臨時(shí)代表大會(huì)。會(huì)議由趙世炎主持，經(jīng)過討論，一致通過把“旅歐中國少年共產(chǎn)黨”正式改名為“旅歐中國共產(chǎn)主義青年團(tuán)”。大會(huì)通過了由周恩來起草的《旅歐中國共產(chǎn)主義青年團(tuán)章程》，共九章三十四條。

這次會(huì)后不久，“旅歐中國共產(chǎn)主義青年團(tuán)”收到了1923年1月29日中共中央正式同意他們加入社會(huì)主義青年團(tuán)的來信。

3月13日，周恩來代表旅歐共青團(tuán)執(zhí)行委員會(huì)向團(tuán)中央寫了《報(bào)告第一號(hào)》。他在這份報(bào)告中說：“我們現(xiàn)在已正式為‘中國社會(huì)主義青年團(tuán)’的旅歐成員了，我們已立在共產(chǎn)主義的統(tǒng)一旗幟之下，我們是何其榮幸！你們希望我們‘為本團(tuán)的勇敢忠實(shí)的戰(zhàn)士’，我們謹(jǐn)代表旅歐全體團(tuán)員回說：‘我們?cè)概ξ氵`！’”
 

旅歐青年團(tuán)組織成立后，為了適應(yīng)思想理論戰(zhàn)線斗爭的需要，于1922年8月1日編輯出版了機(jī)關(guān)刊物《少年》，由陳延年主編?！渡倌辍房橇舜罅拷榻B馬列主義經(jīng)典著作以及革命導(dǎo)師的傳略。

受歷史條件局限，旅歐青年團(tuán)組織建立后，與旅歐共產(chǎn)黨組織在領(lǐng)導(dǎo)機(jī)構(gòu)上是一體的，對(duì)外統(tǒng)稱中國社會(huì)主義青年團(tuán)總支部，但是向國內(nèi)團(tuán)、黨中央聯(lián)系仍是分別進(jìn)行。在當(dāng)時(shí)，經(jīng)過革命斗爭的鍛煉，旅歐青年團(tuán)向旅歐黨組織輸送了許多優(yōu)秀團(tuán)員。