Romi su u Osmanskom Carstvu živjeli diljem carstva, posebno na Balkanu, imali polu-nomadski način života. Iako su često marginalizirani, Romi su bili integrirani u osmansko društvo kroz poseban porezni status, plaćajući "Çingene porez". Neki su bili vojnici, obrtnici ili glazbenici, a drugi su bili kovači i trgovci životinjama.

Osmansko carstvo, koje je postojalo od 1299. do 1922. godine, imalo je značajan utjecaj ne samo na ljude pod svojom vladavinom nego i na tok svjetske povijesti. Jedna od grupa koja je pala pod osmansku vlast tijekom osvajanja koja su se nastavila tijekom 15. stoljeća bili su Romi.

Jedna od teritorija koje su Turci osvojili od Bizantskog Carstva bila je Rumelija (Balkan). Za osmanske snage, europski dio Osmanskog carstva nije bio samo prolazna točka i područje pljački, već i smjer razvoja. Nakon nekog vremena nastala je potreba da se u osvojenih teritorija uspostavi administrativna struktura. Odvajanje tih područja morem zahtijevalo je organizaciju države u dvije glavne administrativne regije, zbog čega su stvorene pokrajine Rumelia i Anadolija (Mala Azija). U strukturi riječi Rumeli, korijen "Rum" znači "zemlja Rimljana" ili "zemlja i ljudi unutar granica Istočnog rimskog carstva".

Osmansko osvajanje Balkana od 1352. godine olakšalo im je konsolidaciju tih područja. Kao rezultat popisa koje je provela osmanska država na Balkanu, počele su se pojavljivati informacije o stanovništvu, naseljima, pridruženim kadilikima (sudski okrug, najmanja administrativno-teritorijalna jedinica osmanske države), kretanjima stanovništva i zanimanjima u tim regijama.

Poznato je da su Romi živjeli na ovim područjima prije dolaska Osmanlija, a njihov prvi ulazak u južnu Europu procjenjuje se da se dogodio u 11. stoljeću.

Prema Fonseci i Fraseru, postoje dokazi da su neke romske obitelji živjele u rumunskim kneževinama u 12. stoljeću.

Kad su Osmanlije osvojile Balkan, neke su romske obitelji živjele tamo i nomadski i nastanjeno. U tom se području također naselio veliki broj Roma tijekom osmanlijskog osvajanja. Kao i drugi narodi, Romi su pronašli svoje mjesto u raznim otomanskim dokumentima. Romi koji žive na Balkanu zabilježeni su u registarima kao "Kıbtîyân-ı Vilâyet-i Rûm-ili".

Prvi spomen Roma u Osmanskoj državi nalazi se u registarima Nigbolu iz 1430. godine. U zapisima Waqfa iz vladavine sultana Murada II. spominje se romsko selo. Tayyib Gökbilgin u svom istraživanju ne govori samo o Romima, već i o njihovim poljoprivrednim aktivnostima. Tijekom tog razdoblja, romsko selo je generiralo prihod od 5458 akçe za waqf. W.R. Halliday je napomenuo da su Romi, koji su 300 godina živjeli na Balkanu, počeli migrirati na zapadne europske teritorije od 15. stoljeća, što se poklopilo s osmanlijskim osvajanjem.

Nakon osvajanja Istanbula (1453.) od strane Fatiha Mehmeta, Romi su se naselili u različitim četvrtima kao što su Çürüklük u Kasımpaši, a kasnije u Ayvansarayu, Sulukuleu, Sultan Mahallesi i Selamsız Mahallesi u Üsküdaru. Zapravo, Romi su živjeli u Istanbulu dugo prije osvajanja, a njihova pitanja registracije organizirana su nakon osvajanja grada.

Iako je točan povijesni datum nepoznat, stvoren je "Ciganski sandžak" (sandžak - administrativna podjela Osmanskog carstva). Najraniji zapisi o tome datiraju iz vladavine Bayezida II (1481-1512). Svrha ovog sandžaka bila je regulirati živote, vojnu poziciju i prikupljanje poreza Roma. Centar Sandžaka bio je Kırklareli (grad u europskom dijelu Turske), koji je uključivao područja Hayranbolu, Malkara, Yanbolu, İpsala, Gümülcine, Dimetoka, Keşan i Çorlu. Sanjak na Balkanu evoluirao je od teritorijalne jedinice do izraza usmjerenog na sudjelovanje romskog stanovništva u dodatnim vojnim službama. Prema dokazima iz 1566. godine, mnogi Romi koji su pozvani u vojnu službu bili su muslimani. Osmanlije su zaposlile mnoge kršćane, često nakon što su se oni preobratili, ali ne uvijek. Važno je zapamtiti da su Osmanlije uglavnom vladale kršćanskim Balkanom. Njihov praktičan pristup i raznolika mješavina ljudi na granicama doveli su ih da koriste kršćane u svojoj službi kao način da pomognu integraciji regije. Uloga kršćana u ranim uspjesima Osmanskog carstva raspravlja se već gotovo stoljeće. Povjesničari poput Mehmeda Fuada Köprülüja i Paula Witteka bili su manje uvjereni u njegovu važnost u usporedbi s drugima poput Herberta Gibbonsa, Georgea G. Arnakis, Nicolae Iorga, ili Heath Lowry. Međutim, čak su i oni koji su snažno naglašavali ulogu Turaka i muslimana u Otomanskom Carstvu i dalje priznavali da su kršćani igrali ulogu.

Za vrijeme vladavine sultana Sulejmana Al-Kanunija, 1530. godine donesen je zakon o Romima u balkanskoj provinciji. Cilj tog zakona bio je nametnuti osobni porez bez obzira jesu li bili muslimani ili kršćani. Od kršćanskih Roma tražilo se da plaćaju veće poreze od drugih. Međutim, ne postoje precizne informacije o različitim poreznim propisima koji se primjenjuju na različite kategorije Roma.

Godine 1530. bilo je 383 romske zajednice koje su živjele u 90 Kadilika na Balkanu. Među Kazom (upravnom podjelom Otomanskog carstva) gdje su živjeli Romi, 55 su bili muslimanski većinski, a 35 su bili nemuslimanski većinski. U Osmanskom Carstvu, Kaza je izvorno bio ekvivalent Kadiliku, okrugu podložnom pravnoj i administrativnoj nadležnosti kadija ili suca islamskog zakona. U romskom zakonu je bilo navedeno da ako Romi koji žive u Kazi na Balkanu odu u područja koja nisu njihova kadilika, bit će kažnjeni, a tu kaznu će izvršiti kadı (sudac).

U knjizi za registraciju u Solunu iz 1567. i 1568. spominju se 48 muslimanskih, 12 kršćanskih i 26 židovskih zajednica. Osim toga, uočeno je da su dvije romske zajednice klasifikirane kao kršćanske. Prema Hallidayu, samo je mali dio Roma koji su živjeli na Balkanu u 16. stoljeću naveden u turskim vojnim zapisima.

U 16. i 17. stoljeću Osmansko carstvo je ušlo u razdoblje stagnacije, a početkom 18. stoljeća ušlo je u razdoblje pada. Stalna kriza dovela je do kolapsa društvenih i gospodarskih uvjeta, koji su se produbljivali neuspješnim ratovima i gubitkom teritorija. Zbog toga su razni državni registri izgubili svoju važnost, a povijesni izvori o Romima u tom razdoblju izgledaju netačni. Prema Özeru Ergenču, početkom 18. stoljeća u Edirneu je živjelo 81  “Coptic”  (Rimska) obitelj.

Početkom 19. stoljeća Romi su također sudjelovali u nacionalnooslobodilačkim borbama balkanskih naroda. Jedna poznata ličnost među  “haiduts”  bio je Rom Mustafa Shibil (Bugarska). Osim toga, tijekom rusko-turskih ratova, Romi su se kao bugarski dobrovoljci borili u ruskoj vojsci.

Za vrijeme vladavine srpskog kneza Miloša Obrenovića sredinom 19. stoljeća, 8.000 Turaka moralo je napustiti Kraljevstvo. U to su vrijeme oni koji su se predstavili kao Romi mogli ostati.

Prema informacijama koje je dao Alexander G. Paspati, mnogi Romi koji su živjeli na Balkanu bili su vješt u glazbi i plesu. Također su se bavili poljoprivredom i poljoprivrednim djelatnostima. S druge strane, Romi koji su živjeli u Bugarskoj uglavnom su se bavili pletenjem košara i prodajom malih predmeta.

1866. godine bugarski pisac Petka Rachev Slaveikov, koji je pisao pod pseudonimom "Mısırlı" ( “Egipćanin”  “Cigan” ), objavio je članak u Istanbulu u kojem je branio prava Roma na jednak tretman. Razgovarao je o postojanju njihovih vlastitih zajednica i naglasio važnost obrazovanja. To je odigralo značajnu ulogu u samosvijesti Roma u 19. stoljeću.

Nakon raspada Osmanskog carstva, Romi su nastavili živjeti na Balkanu. Živjeli su zajedno s većinskim stanovništvom i nastavili su čuvati muslimansku baštinu. To se odražava u njihovoj praksi islama i brojnim običajima.