Ensimmäiset tunnetut asutuksen merkit nykyisen Libyan alueella ovat noin vuodelta 1000 EKr. jolloin alueelle perustettiin ensimmäiset Kreikkalaiset ja Foiniikkialaiset siirtokunnat. Välimeren herruudesta taistelevat Rooma ja Karthago kilpailivat molemmat alueen kaupunkien hallinnasta ja vaikka Karthagon onnistui säilyttää asemansa siirtokuntien suojelijana pitkään, ne päätyvät lopulta osaksi Rooman valtakuntaa toisella vuosisadalla enne ajanlaskumme alkua. Rooman valtakunnan jakauduttua Libyan aluetta hallitsivat ensin vuodesta 431 lähtien Vandaalit ja vuodesta 533 jälleen Itä-Rooman keisarikunta. Idästä etenevät arabimiehittäjät liittivät Libyan osaksi Kalifaattia vuonna 643 ja vahvistivat Islamin aseman maassa.
Vuonna 1510 ensin Espanja ja myöhemmin Malta hallinnoivat alueita Välimeren eteläpuolelta Libyan länsiosista - Tripolitaniasta, kunnes Ottomaanien valtakunta miehitti alueen Egyptistä käsin. Ottomaanien vallan murentuessa oli Italian vuoro miehittää Tripoloitania, Cyrenia ja Fezzan alue. Italia loi alueelle Tripolitanian protektoraatin, joka oli käytännössä Italian siirtomaan asemassa lyhyttä 1918 - 1922 välistä jaksoa lukuun ottamatta, jolloin maan virallinen nimi oli Tripolitanian Tasavalta. Italia liitti Tripolitanian alueet itseensä virallisiksi siirtomaiksi vuonna 1922 ja vuonna 1934 nimi muutettiin Libyan siirtomaaksi. Toisen Maailmansodan ja Italian häviön seurauksena Iso Britannia miehitti Tripolitanian ja Cyrenean ja Ranska Fezzan alueen joista muodostettiin Yhdistyneiden Kansakuntien Libyan mandaatti, ja joka säilyi liittoutuneiden valvonnassa vuoden 1951 itsenäisyyteen saakka.
Vuonna 1952 Libya itsenäistyi yhdistäen Tripolitanian, Cyrenean ja Fezzan Kuningas Muhammad Idris Al-Sanusin, Cyrenean Emiirin, alaisuudessa perustuslailliseksi ja perinnölliseksi Libyan Yhdistyneeksi Kuningaskunnaksi. Nimi muutettiin Libyan Kuningaskunnaksi vuonna 1963.
Vuonna 1969 joukko nuoria upseereita Muammar Gaddafin johdolla kaappasi vallan ja syöksi kuninkaan valtaistuimelta. Kaappaajien johtama vallankumousneuvosto lakkautti monarkian ja julisti Libyan sosialistiseksi arabitasavallaksi. Muammar Gaddafista nousi vastaperustetun diktatuurin johtoon ja aloitti pitkään jatkuneen kampanjansa sosialismin ja arabinationalismin levittämiseksi ympäri Lähi-itää. Valtion nimi muuttui vuonna 1977 "Sosialistiseksi Libyan Kansan Arabi Jamahiriyaksi" ja uudelleen vuonna 1986 "Suureksi Sosialistiseksi Libyan Arabi Jamahiriyaksi" heijastaen johtajansa yhä arvaamattomampaa, eristäytyvämpää ja konfrontaationallisempaa politiikkaa. Gaddafi käytti Libyan öljytuloja kansainvälisen terrorismin rahoittamiseen ympäri maailmaa ja ajautui useaan otteeseen törmäyskurssille länsimaiden kanssa. Yhdysvallat rankaisi Gaddafia 1980-luvun lopulla tämän osuudesta terrori-iskussa Länsi-Saksassa pommittamalla Tripolia ja hallitsijan henkilökohtaisia palatseja.
Kylmän sodan päätyttyä Libya menetti mahdollisuutensa pelata suurvaltoja toisiaan vastaan ja huomasi Neuvostoliiton tuen kadottua tarvitsevansa lämpimämpiä suhteita länteen. Vaikka Gaddafin salainen palvelu osallistui vielä 1988 Lockerbiessä, Skotlannissa täyden Pan Amin koneen pudottaneeseen terrori-iskuun oli maailma muuttunut niin nopeasti, että Gaddafin oli pakko luovuttaa teosta epäillyt agenttinsa Eurooppaan tuomittaviksi jo muutama vuosi myöhemmin. Lockerbien jälkeen Libya on yrittänyt kaikkensa lähentääkseen välejä länteen, se on julkisesti irtisanoutunut niin kansainvälisestä terrorismista, kuin joukkotuhoaseohjelmistaan ja on toiminut aktiivisena välittäjänä länsimaiden kansalaisia koskeneissa kidnappauksissa ympäri islamilaista maailmaa. Libyan eristäytyminen on alkanut purkaantua ja maa on alkanut viimeaikoina houkutella turisteja ulkomaisten investointien lisäksi. Merkkinä maan aseman kohentumisesta kansainvälisesti Yhdysvallat palautti diplomaattiset suhteet maiden välille vuosikymmenten boikotin jälkeen vuonna 2006.
Vuoden 2011 "Arabikevään" kansannousu kukisti Gaddafin hallinnon lyhyen sisällissodan jälkeen ja maa otti käyttöön vanhan kansallisen lipun ja valmistautuu siirtymään kohti parlamentaarista demokratiaa.
