Sejarah awal sekolah ini bermula pada tahun 1962 dan dikenali sebagai Sekolah Pelajaran Lanjutan yang mengandungi 4 kelas.

Pada tahun 1964, nama sekolah ini ditukarkan kepada Sekolah Menengah Rendah (SMR 26) yang mempunyai 2 aliran iaitu Aliran Melayu dan Bahasa Inggeris.

Pada tahun 1965, bilangan kelasnya bertambah dari 15 bilik darjah kepada 23 bilik darjah (1966) dan pada tahun 1967 pula, bilangan bilik darjahnya adalah sebanyak 34 kelas. Pada tahun 1967 sekolah ini telah berkongsi bangunan di Sekolah Ghaffar Baba.

Menjelang tahun 1968, sekolah ini telah mempunyai bangunan sendiri yang terdiri dari 3 blokbangunan dan sebuh kantin. Ketiga-tiga blok bangunan terdiri dari bilik-bilik darjah dimana 2 di antaranya boleh dibuka sebagai dewan, 2 makmal Sains, sebuah bilik guru, sebuah perpustakaan, 2 buah bilik Sains Rumahtangga, sebuah bilik Lukisan Teknik serta 2 buah bengkel pertukangan kayu,logam dan elektrik.

Mulai tahun 1969, pelajar-pelajar Aliran Melayu telah dipindahkan ke Sekolah Ghaffar Baba. Pelajar-pelajar yang ditempatkan di sekolah ini terdiri dari mereka yang berada dalam Aliran Bahasa Inggeris.

Pada tahun 1974, sebuah rumah kediaman rasmi Pengetua telah dibina. Pada tahun yang sama juga 2 blok bangunan tambahan mula dibina yang terdiri daripada satu blok bilik darjah, makmal dan sebuah surau.

Nama Sekolah Pelajaran Lanjutan yang telah ditukar kepada Sekolah Menengah Rendah (SMR 26) dan bangunan sekolah ini telah dirasmikan oleh Menteri Pendidikan Y.B. Dato' Hussein Onn. Seterusnya nama SMR 26 ini tidak kekal bilamana namanya telah ditukarkan kepada Sekolah Menengah Masjid Tanah (SMMT).

Walau bagaimanapun nama SMMT juga tidak dapat bertahan lama di mana ianya telah ditukarkan kepadaSekolah Menengah Kebangsaan Sultan Alauddin (SMSA) pada 1 Januari 1988.

Pelajar aliran Inggeris yang lulus LCE layak meneruskan pelajaran ke Tingkatan 4 dan seterusnya ke Tingkatan 5 Sains. Manakala pelajar-pelajar aliran Melayu yang telah lulus SRP layak menruskan pelajaran mereka ke Tingkatan 4 dan seterusnya ke Tiongkatan 5 Sastera.

Sekolah ini mula menubuhkan kelas Tingkatan 6 aliran Sastera pada tahun 1977 dan pada tahun 1978, pelajar perintisnya menduduki peperiksaan STPM.

Kini, SMKSA mempunyai lebih 1,000 orang pelajar dengan 30 buah kelas. Di sekolah ini terdapat juga Kelas Rancangan Khas yang terbuka kepada pelajar perempuan sahaja. Mereka yang mendapat 5A UPSR sahaja yang layak untuk memasuki Kelas Rancangan Khas ini dan mereka diwajibkan mengambil mata pelajaran Bahasa Arab.

Satu blok 2 tingkat juga ada disediakan sebagai asrama dan ianya terbuka kepada semua pelajar perempuan sahaja dan keutamaan diberikan kepada pelajar-pelajar Kelas Rancangan Khas.