Futbol Kariyeri Arif Erdem 1991 yılında Zeytinburnuspor'dan transfer olmuş ve Galatasaray'da uzun süre top koşturdu.Galatasaray ile ilk olarak UEFA Kupasını daha sonra ise UEFA süper kupasını kazandı.Arif Erdem özellikle maçlarda en kritik anlarda takımını ateşleyen hareketler yapması ve sık sık penaltı yaptırması ile ünlü bir futbolcuydu. Yaptırdığı penaltıların büyük çoğunluğunda kendini yere attığı ileri sürülmektedir.12 Nisan 1997'de İnönü Stadı'nda oynanan ve hakem Vahap Beyaz'ın yönettiği İstanbulspor-Galatasaray maçının 96.dakikasında topu elle alıp kendisini yere bırakması ile takımına şampiyonlukta avantaj sağlayan penaltıyı kazandırmıştır.
Galatasaray'ın 1993/94 sezonunda o zamanlar yeni bir uygulama olan Şampiyonlar Ligi'nde çeyrek final oynamasını sağlayan başrol oyuncularından biriydi. İspanya macerasından sonra tekrar Galatasaray`a dönmüş ve futbolu bırakmıştır.
Teknik Direktörlük Kariyeri
Ağustos 2006 itibariyle İstanbul Büyükşehir Belediyespor'da Abdullah Avcı'nın yardımcılığını yapmaktadır. Bu görevinde de başarılı olup takımının LigA'dan Süper Lig'e çıkmasında katkısı olmuştur.