Ferguson, bersama-sama dengan Archie Knox yang diangkat menjadi asisten manajer saat itu, secara perlahan-lahan mengubah kebiasaan buruk itu dan menanamkan disiplin ketat bagi para pemain, hal yang masih berlaku sampai saat ini di MU. Pertandingan debutnya berakhir dengan kekalahan 2-0 atas klub underdog, Oxford United. Diikuti oleh hasil imbang 0-0 7 hari berikutnya melawan Norwich City. Kemenangan pertama United dibawah asuhan Fergie hadir pada 22 November 1986 ketika Red Devils mengalahkan Queens Park Rangers 1–0 di Old Trafford.
Selain itu Fergie juga berhasil memenangkan pertandingan tandang satu-satunya yang mereka raih musim itu. Yang istimewa, lawan mereka adalah rival abadi United, Liverpool pada Boxing Day, hal yang mana telah dijanjikan oleh Fergie ketika konferensi pers pertamanya sebagai manajer United yaitu "akan menggantikan Liverpool sebagai klub Inggris paling dominan mulai saat ini".
Dalam musim perdananya di United, Fergie membawa MU duduk di peringkat 11, setelah sebelumnya mereka sempat terdampar di peringkat 21. Musim berikutnya Ferguson mendatangkan beberapa pemain baru untuk membela United. Mereka adalah Steve Bruce, Viv Anderson, Brian McClair dan kiper Jim Leighton.
Dengan tambahan pemain-pemain baru ia meraih posisi 2 dibelakang Liverpool yang menjadi juara Liga Inggris. Musim 1988/89 Ferguson kembali mendatangkan pemain baru, kali ini Mark Hughes yang kembali bergabung dengan United setelah penampilan mengecewakan selama 2 tahun di FC Barcelona.
United diunggulkan untuk menjadi juara pada musim itu namun penampilan mereka mengecewakan dan akhirnya kembali terdampar di posisi 11 pada klasemen akhir. Pada awal musim, United tampil dalam partai persahabatan melawan tim nasional Bermuda dan Somerset County dimana Fergie turun sebagai salah satu pemain saat laga melawan Somerset. Ini merupakan satu-satunya penampilan Fergie berseragam Setan Merah dalam pertandingan.
