Tak banyak yang dapat diketahui dari kehidupan pribadi Al Farabi. Pasalnya, ia tak pernah meninggalkan catatan autobiografi. Sehingga, sedikit sekali hal yang dapat diketahui mengenai kehidupannya.
Nama aslinya, Muhammad bin Muhammad bin Tarkhan bin Awzalagh (atau Uzlugh) al-Farabi, juga disebut Abu Nashr al-Farabi, Alpharabius nama latin (juga dieja Alfarabius) atau Avennasar. Dalam ensiklopedia Britannica disebutkan ia lahir pada 873 Masehi di Turkistan. Asal usul etnisnya masih diperbincangkan hingga kini. Sebagian besar sumber lain menyebut Al Farabi merupakan seorang syiah imamiyyah, kelompok syiah yang memandang sang imam berasal dari bangsa Turki.
Al Farabi menempuh pendidikan dasar di Faryab Khurasan dan melanjutkan ke Bukhara. Ia kemudian pindah ke Baghdad untuk melanjutkan pendidikan yang lebih tinggi. Di kota itulah ia mempelajari filsafat dan menguasai beragam cabang ilmu pengetahuan, seperti kedokteran, sosiologi, matematika, dan sebagainya. Al Farabi juga belajar bahasa Arab dan Yunani serta menulis sebagian besar bukunya di ibu kota Irak tersebut.
Setelah tinggal selama 40 tahun di Baghdad, ia kembali ke Turkistan. Di sanalah ia menghasilkan karya terkenalnya at-Ta'lim ats-Tsani yang membuatnya mendapat julukan muallim ats-tsani, guru kedua setelah Aristoteles. Ia kemudian pergi ke Suriah dan tinggal di Allepo. Ia juga berkunjung ke Mesir dan negara-negara lain.
Al-Farabi meninggal dunia di Damaskus pada 970 M. Jasadnya dimakamkan di Bab as-Saghir, berdekatan dengan makam Mu'awiyah, pendiri dinasti Ummayyah. Tak jelas penyebab kematiannya. Beberapa menyebut ia meninggal begitu saja. Sebagian sumber lain menyebut ia meninggal karena dirampok dan dibunuh saat melakukan perjalanan dari Damaskus ke Ascalon.
Beberapa karya yang diwariskannya, yakni Kitab al Musiqa al kabir (The Great Book of Music), al Madinah al fadila (The Virtuous City), Risala fi'l aql (Surat pada Akal), Kitab al Huruf (Kitab Sastra), Kitab Ihsa 'al 'ulum (Kitab Pencacahan Ilmu Pengetahuan). Karya-karya beliau tersebut tersimpan baik dan dicetak menjadi buku rujukan. Buku al Madinah al fadila diterjemahkan dan dicetak Oxford Inggris. Risala fi'l aql dan Kitab al Huruf dicetak di Beirut. Kitab Ihsa 'al 'ulum diterjemahkan dalam Latin dan Spanyol dan menjadi sumber untuk ensiklopedia. Adapun al Musiqa al kabir dicetak di Mesir.
Kendati filsafat lahir di Barat, Musliminlah yang ternyata meneruskan estafet Socrates, Plato, dan Aristoteles. Banyak filsuf Muslim yang lahir dan memberikan kontribusi besar bagi pengembangan pemikiran filsafat barat.
Sebut saja al-Kindi, pembuat dasar filsafat Islam, kemudian Ar Razai, al-Ghazali, Ibnu Sina, Ibnu Rusyd, dan tentu saja yang tak boleh luput, al-Farabi. Mallim-e-Sani (Master kedua) merupakan julukan yang diberikan kepada al-Farabi karena ia menjadi rujukan para filsuf dunia setelah Aristoteles.
Bermula ketika muncul emirat Islam di Spanyol yang rupanya telah membawa banyak kemajuan, bukan sekadar kemajuan Muslimin, melainkan juga Barat. Kontak Muslim dengan filsafat Yunani memang telah terjalin sejak Umayyah berkuasa di Suriah. Namun, menurut Philip K Hitti, kalangan Muslim Spanyollah yang menorehkan catatan paling mengagumkan dalam sejarah intelektual abad pertengahan di Eropa.
Orang-orang yang berbicara dengan bahasa Arab adalah para pembawa obor kebudayaan dan peradaban penting yang menyeruak menembus seluruh pelosok dunia. Mereka juga merupakan perantara yang menghubungkan ilmu dan filsafat Yunani klasik sehingga khazanah kuno itu ditemukan kembali, ujar Hitti.
Puncak pencapaian intelektual itu, menurut Hitti, terjadi dalam arena pemikira filsafat. Dalam bidang filsafat, Muslimin membentuk mata terakhir dan paling kuat dalam mata rantai yang menghubungkan filsafat Yunani dengan dunia pemikiran Latin Barat. Kontribusi mereka semakin besar, terutama melalui upaya mendamaikan iman dengan akal, dan agama dengan ilmu pengetahuan.