Sekolah Anderson telah dibuka dengan rasminya pada 6hb Februari, 1909. Sekolah ini telah diberi nama Sekolah Anderson, mengambil nama Sir John Anderson, Pesuruhjaya Inggeris ketika itu. Perlunya sekolah ini ditubuhkan ialah kerana murid-murid Melayu sukar untuk mendapat tempat di Maktab Melayu Kuala Kangsar yang telah wujud sejak tahun 1905. Atas sebab-sebab agama pula, ibu bapa Melayu enggan menghantar anak-anak mereka ke sekolah-sekolah Inggeris yang telah sedia ada yang dianjurkan oleh pengembang agama Christian saperti Anglo Chinese School dan lain lain.
Mengikut lapuran tahunan Negeri-negeri Melayu Bersekutu (Perak, Selangor, Negri Sembilan dan Pahang) untuk tahun 1907, sekolah ini disebut sebagai '.... sekolah Inggeris Kerajaan yang besar bagi lelaki dan memakan belanja sebanyak $45,000.00.'
Lt. Col. J. H. Tyte, iaitu Penolong Kanan di Victoria Institution telah dilantik menjadi Guru Besar pertama, bersama-sama dengan seorang guru terlatih dan 5 orang murid tua Victoria Institution serta Mr. E. C. Smith yang menjadi Penolong kanan, sebagai tenaga pengajar.
Sehingga tahun 1937 apabila FMS Education Code dikuatkuasakan, setiap guru besar bebas untuk mengenalkan apa jua mata pelajaran.
Permainan hoki telah diperkenalkan oleh Guru Besar yang menjadi pemain hoki mewakili Selangor dan Perak. Pasukan sekolah terpaksa bermain dengan kelab-kelab atau pasukan negeri kerana tidak terdapat pasukan-pasukan dari sekolah-sekolah lain.