Meski nama Madura United bisa dibilang relatif baru di dunia sepak bola Indonesia, klub ini sesungguhnya memiliki sejarah yang cukup panjang. Dimulai dengan didirikannya klub sepak bola Pelita Jaya pada dekade 1980an, mereka pun terjun di Galatama (Liga Sepak Bola Utama) dengan dimotori pemain tim nasional Bambang Nurdiansyah. Gebrakan lain pun ditempuh oleh klub yang didirikan oleh grup Bakrie tersebut dengan mendatangkan pemain kelas dunia seperti Roger Milla dan Mario Kempes, dua nama yang pernah bersinar di ajang Piala Dunia. Namun, perlahan-lahan klub ini pun kerap kali harus berpindah lokasi dan berganti nama, termasuk ke Solo (Pelita Solo) dan Pelita Krakatau Steel (Cilegon) sebelum akhirnya singgah di Bandung dengan nama Pelita Bandung Raya. Disinilah kisah nama Pelita Jaya berakhir setelah diakuisisi oleh Achsanul Qosasi yang memindahkan tim ke Pamekasan menjadi Madura United Football Club. Mengandalkan marquee player asal Nigeria, Peter Odemwingie, Sape Kerrab menjadi salah satu tim yang meramaikan persaingan gelar juara dan mengakhiri kompetisi di peringkat kelima.
