Trabzonspor’da uzun yıllar sol bek olarak oynayan Ercan, U-17 Milli Takımı antrenörlüğü yaptı. 2011 yılına kadar Milli takımda belli görevlerde çalışan 1971 doğumlu teknik adam 2011-2012 sezonunda Gaziantepspor ile anlaştı. Devre bitmeden takımdan ayrılan Abdullah Ercan, 2013’de Türkiye 21 Yaş Altı Milli Futbol Takımı'nın antrenörlüğü görevine getirildi, 2015’te ise Fatih Terim’in yardımcılığını yaptı.
