Dle dostupných pramenů se poprvé setkali Miroslav Tyrš s Jindřichem Fügnerem v roce 1860. Díky podobným názorům se brzy spřátelili a postupně se propracovali k myšlence tělovýchovy jako prostředku k emancipaci národa. Původně však uvažovali o založení česko-německého tělocvičného spolku, ale k dohodě kvůli penězům s německu stranou nakonec nedošlo.  Miroslav Tyrš pak navrhl založit spolek ryze český.

16. února 1862 se v Malypetrově ústavu v Panské ulici  sešla ustavující valná hromada Tělocvičné jednoty pražské. 75 přítomných členů zvolilo starostou Jindřicha Fügnera, místostarostou Miroslava Tyrše a  ve výboru se sešli mimo jiné Rudof Thurn-Taxis, MUDr. Eduard Grégr, JUDr. Julius Grégr, JUDr. Tomáš Černý i Ferdinand Fingerhut. Toto datum je pokládáno za datum založení Sokola. U jeho zrodu však stálo mnoho dalších představitelů české politiky a kultury – namátkou Josef Mánes, Jan Neruda, J. E. Purkyně, Karolína Světlá. Symbolem jednoty se stal Mánesův prapor se sokolem v letu, který převzali Sokolové 1. června 1962 při slavnostní příležitosti z rukou Karolíny Světlé. Název Sokol navrhl E. Tonner. Tento dravec je symbolem síly, rychlosti, cti a čestného boje. Heslo „Tužme se“  bylo jedním z hesel Tyrše, s pozdravem „Nazdar“ přišel J. Barák – nahradil tak původní pozdrav „Zdař Bůh“. Tykání a oslovování „bratře“ prosadil Fügner. Dílem Mánesa byl rovněž kroj, jehož součástí se měla dle zakladatelů Sokola stát červená garibaldiovská košile. Ta však mezi členstvem vyvolala spor, pro část byla příliš provokativnm symbolem revoluce. Nakonec zvítězil kompromis – červená košile nebyla závazná a mohla být nahrazena košílí jiné barvy. I když se kroj později změnil, červená košile zůstala zachována jako jeden z důležitých symbolů sokolského hnutí.

Cvičit se začalo v květnu 1862 v Malypetrově tělocvičném ústavu. Počet cvičenců stále narůstal a pronajaté prostory zdaleka nestačily. Jindřich Fügner, úspěšný pražský podnikatel, se rozhodl tuto záležitost vzít do svých rukou a zabezpečit milovanému Sokolu důstojné sídlo. Zakoupil parcelu se zahradou v dnešní Sokolské ulici a vyzval členy, aby pomohli vystavět vlastní tělocvičnu. Stavět se začalo v červenci 1863 a během necelého půlroku se v ní už cvičilo.

Cvičení bylo původně záležitostí čistě mužskou.  Ženy se uplatňovaly jen jako patronky a spolupracovnice, tak jak to žádala tehdejší morálka. Nicméně již v listopadu 1869 vznikl Tělocvičný spolek paní a dívek pražských. Přestože v předsednictvu zasedly dámy z vyšších společenských kruhů a cvičitelkami byly ženy, spolek vzbudil velké pohoršení. Soudilo se, že tělocvik je pro dívky a ženy nevhodný až nebezpečný. Ženy se nevzdaly a ve své činnosti přes velké překážky pod heslem „Volnost a zušlechtění“ pokračovaly. První cvičitelkou byla Klemeňa  Hanušová a starostkou se stala sestra Karoliny Světlé, spisovatelka Žofie Podlipská..

V prvním čísle časopisu Sokol, které vyšlo v lednu 1871, formuloval Miroslav Tyrš v úvodním článku „Náš úkol, směr a cíl“ program Sokola. Hlavními zásadami, které jsou zde vyzdviženy,  jsou síla a mužnost, činnost a vytrvalost, láska k volnosti a vlasti, dobrovolná práce a kázeň i vzájemný bratrský vztah členů. V jejich duchu  byla (a je) činnost Sokola všestranná. Kromě samotného cvičení byly pořádány také výlety a společenské zábavy za značného zájmu nesokolské veřejnosti.

Rozšíření Sokola na venkov zpočátku bylo omezováno zákony Rakouska. To se změnilo v roce 1867, kdy vstoupil v platnost nový spolkový a shromažďovací zákon. V sedmdesátých letech přesto došlo k útlumu slibného rozvoje sokolského hnutí, ale i tak v roce 1875 existovalo 71 jednot s 7812 členy. Zlomem se stal sjezd sokolských jednot v červnu 1882 a I. slet sokolstva na Střeleckém ostrově. Nejen že byla překonána vnitřní krize, ale  současně se sokolské myšlenky šíři do dalších zemí světa. Vznikají první župy, v  roce 1889  Česká obec sokolská,  v roce 1895 Svaz československého sokolstva a v roce 1908 také Svaz Slovanského sokolstva.