Bijeljina se prvi put spominje 1446. godine. Od Zvornika je kroz Bijeljinu prolazio srednjovjekovni put koji je išao za Mačvu, Mitrovicu i Hok. Franjevački samostan Svete Marije, u poljima u okolini Bijeljine, spominje se 1514. godine. Tom razdoblju pripadaju trinaest stećaka, od kojih su dva dekorisana a na četiri se nalaze fragmentarno čitljivi napisi. U zaseoku Mitrovićima, selo Gornji Dragaljevac, na dva lokaliteta nalaze se tri stećka, od kojih je jedan ukrašen motivima biljne stilizacije i predstavom životinje; kao takav prenijet je na zgradu dragaljevačke osnovne škole. U osmanlijskom dobu župa Bijeljina pripada nahiji Koraj. Kao sjedište kadiluka pominje se 1634. godine. Za vrijeme austro-ugarske okupacije i u ratu 1876. godine grad je mnogo stradao.

Od islamskih sakralnih objekata, posebno se ističe Sultan Sulejmanova ili Atik džamija, zanimljiva po tome što njena munara ima dva šerefeta. Sagrađena je na temeljima starije, prije 1566. godine sagrađene istoimene džamije koja je bila teško oštećena u napadu austro-ugarske vojske 1716. godine i sve do 1739. godine je korištena kao crkva. Nakon obnove 1893. godine spada među ljepše i prostranije sakralne islamske građevine u Bosni i Hercegovini. Muhamed Nedžihi-pašina džamija sagrađena je 1839/1840. Manji objekat sa drvenom munarom, Salihbegovića džamija, potiče iz 1875/76 godine. Hrpića džamija ima kamenu munaru. Od pravoslavnih sakralnih objekata posebno se ističe Pravoslavni manastir sa crkvom Svete Trojice (Manastir Tavna); nalazi se na izvoru rječice Tavne, 18 kilometara od Bijeljine.

Trg u Bijeljini Sjeveroistočni ugao Bosne odavno se zove Semberija. Hamdija Kreševljaković je smatrao da je naziv Semberija u vezi sa rodom osmanlijske vojske koji se, kako navodi, zvao zemberi (strijelci). Riječ zemberek je perzijskog porijekla i znači: opruga, spirala. Prema Abdulahu Skaljiću, to je neka vrsta puške ili topa sa zemberekom. Prema tome naziv Semberija mogao je postati samo u osmanlijsko vrijeme, ne prije prve polovine 16. vijeka, a smatra se da su u tom kraju živjeli vojnici janjičari - zemberdžije. Bijeljina, grad u Semberiji, spominje se prvi put u vrijeme Osmanlijskog carstva 1634. godine kao sjedište kadiluka. Evlija Čelebija je ostavio zapis: "Kasaba Bijeljina je vojvodaluk (i) pašin domen (hass) na teritoriju zvorničkog sandžaka (...) Ta kasaba nalazi se na vrlo plodnom i žitorodnom velikom polju koje obiluje travom i vodom. Ona ima pet mahala, sa pet stotina lijepih, daskom pokrivenih kuća, prizemnih i na sprat. U svakoj kući ima živa voda. U baščama na hiljade divnih ptičijih melodija osvježavaju ljudsku dušu i okrjepljuju čovječije zdravlje. Od svih boljih kuća ističe se veliki odžak Alipaše Čengića, koji je pokriven kao rubin crvenim crijepom. To je tako dobar dvor (...) da mu u svoj Bosni nema ravna. U blizini tog saraja nalazi se jedan gaj u kome se ogromna stabla uzdižu do neba (...) Klima je prijatna i tu ima svakovrsnog voća koje je na glasu."[potreban citat]

Bijeljinsko utvrđenje sastojalo se od sarampova - hendeka, odnosno rova sa palisadama (parmakluk) oko kamenih objekata: džamije sultana Sulejmana II i hamama koji je bio kraj džamije. Osim toga tu su bile i dvije spahijske kule nastale u 17. stoljeću. Austro-ugari su u septembru 1716. godine napali Bijeljinu, čiji su stanovnici pružili jak otpor. Kako nisu imali tvrđave branili su se iz džamije i hamama koji su bili ozidani od tesanog kamena. Neprijatelj je topovima znatno oštetio obje te zgrade. Jednu je spahijsku kulu lagumom djelomično razorio, a drugu oštetio. Bijeljina je tada pala pod vlast Austro-ugarske, koja je grad napustila tek 1739. godine, poslije još jednog austro-osmanlijskog rata. Nakon ponovnog uspostavljanja osmanlijske vlasti u Bijeljini opet nije bio sagrađen utvrđeni grad nego je onaj sarampov obnovljen. Takav je sarampov bio i u Janji. Za vrijeme osmanlijske uprave Bijeljina je bila poznata po velikom broju trgovaca i obrtnika raznih specijalnosti. Godine 1868. Bijeljina je spojena telegrafskom žicom sa Tuzlom i Sarajevom. Bijeljinu su u vrijeme srpsko-osmanlijskog rata 1876/1877. opsjedale jedinice srbijanske drinske vojske. Ta drinska vojska (20.000 pripadnika) najprije je zauzela Mali Zvornik i Sakar, a zatim je preko Bujuklića ade prešla na ovu stranu i napala Bijeljinu. Zahvaljujući jakom otporu i dobroj organizaciji Bošnjaka i osmanlijske vojske, srbijanske jedinice pretrpjele su gubitke i morale su se povući neobavljena posla.