Sarekat Islam yang saat itu dipimpin Oemar Said Cokroaminoto mendapat 'guncangan' akibat banyaknya anggota Sl yang keluar karena mengikuti jejak Semaun. Bergabung dengan 'guru'nya Hendricus Sneevliet, Semaun kemudian membentuk Partai Komunis Hindia (PKH) sebelum akhirnya menjadi Partai Komunis Indonesia(PKI).
Sarekat Islam kemudian berubah namanya menjadi Partai Sarekat Islam (PSI). Sekalipun demikian, sisa-sisa anggota PSI yang menyatakan diri tetap setia pada islam dan juga kepemimpinan Cokroaminoto yang dahulu disebut Sarekat Islam Putih – disinyalir tidak juga bersih dari 'paham' komunis. Salah seorang Pengurus pusat partai berusaha menghilangkan jauh-jauh 'paham' komunis itu dari dalam partai. la lantas menyelidiki kondisi internal partainya.
Dalam penyelidikannya ditemukan, memang masih banyak orang-orang berpaham komunis yang masih 'berdiam' di PSI. 'Penyelidik' ini lantas menyarankan langkah tegas untuk mengeluarkan orang-orang komunis dari PSI dan menerapkan disiplin partai. Ia juga menyarankan merubah nama PSI menjadi Partai Sarekat Islam Indonesia (PSII) setelah partainya bersih dari unsur komunis. Semua usul 'penyelidik' itu ditanggapi partai. Untuk selanjutnya, partai pimpinan Cokroaminoto itu bernama Partai Sarekat Islam Indonesia (PSII). 'Penyelidik' itu adalah Agus Salim.
Orang tuanya memberinya nama Masyudul Haq yang berarti pembela kebenaran. la dilahirkan di Kota Gadang, Bukit Tinggi, Sumatera Barat, 8 Oktober 1884, sebagai anak tertua dari pasangan Sutan Salim Gelar Sutan Muhammad Salim dan Siti Zaenab. Sutan Salim adalah jaksa kepala (hoofd jaksa) dan juga menjadi anggota Mahkamah Agung. Karena kedudukan ayahnya yang tinggi, ia dapat bersekolah di Sekolah Menengah Belanda, HBS (Hogere Burger School). la dikenal sangat cerdas hingga tercatat menjadi lulusan terbaik di sekolahnya, Kecerdasannya termasuk luar biasa dalam penguasaan Bahasa. Tidak hanya Bahasa daerahnya, Minang, bahasa Indonesia dan juga bahasa Belanda, Agus Salim juga menguasai 6 bahasa lainnya : bahasa Perancis, Inggris, Jerman, Jepang, Turki, dan Arab dengan baik. Kehebatannya dalan berbahasa ini kelak akan sangat mendukungnya dalam kancah politik nasional Indonesia.
Semula Agus Salim bercita-cita menjadi dokter, Sayang, keluarganya tidak mempunyai biaya yang cukup untuk mendukung cita-citanya. Sesungguhnya ia 'mendapat' limpahan beasiswa dari Raden Ajeng Kartini setelah Raden Ajeng Kartini terpaksa 'menolak' beasiswa yang didapatkannya karena harus menikah. Bangsawan wanita Jawa itu menyarankan kepada pemerintah Belanda untuk memberikan beasiswa yang diterimanya untuk Agus Salim. Entah kenapa Agus Salim tidak memanfaatkan kesempatan emas itu untuk memenuhi cita-citanya. la malah memilih langsung bekerja pada pemerintah Belanda.
Mengingat bakatnya yang Iuar biasa dalam bidang bahasa, pemerintah Belanda mengirimkannya ke Jeddah untuk menjadi penerjemah pada kantor konsulat Belanda. la sangat gembira menerima tugas itu karena di Kerajaan Arab Saudi itu ia bisa menimba ilmu agama.
Di negeri kelahiran Nabi Muhammad SAW tersebut Agus Salim berguru pada Imam Masjidii Haram, Syekh Ahmad Khatib, yang tidak lain adalah pamannya sendiri. Tercatat selama 5 tahun, 1906-1911, Agus Salim berada di Jeddah.
Sepulang dari negeri Arab Agus Salim tidak meneruskan kariernya sebagai pegawai pemerintah Kolonial Belanda. Kepeduliannya pada anak-anak bangsa yang tidak bisa mengenyam pendidikan menyebabkan ia lalu mendirikan Sekolah HIS (Hollandsche Inlandsche School), Selain itu Agus Salim juga menjadi pemimpin redaksi harian Neraca. Agus Salim memasuki gelanggang politik dan bergabung dengan Sarikat Islam (SI) pimpinan Oemar Said Cokroaminoto. la tercatat sebagai salah satu pengurus pusat partai dan menjadi Ketua Partai setelah Cokroaminoto wafat.
Agus Salim bersama Semaun mendirikan Persatuan Pergerakan Kaum Buruh pada tahun 1919. Mereka gigih menuntut kepada pemerintah Belanda agar membentuk Dewan Perwakilan Rakyat yang sebenarnya, yang dipilih oleh rakyat serta berjuang untuk rakyat. Ketika terjadi pemogokan buruh yang menuntut perbaikan nasib buruh di Surabaya, Cirebon dan Semarang, Agus Salim berperan besar. Dia pengorganisir pemogokan tersebut.
Di tubuh Sl terjadi 'kemelut' setelah Semaun yang beraliran komunis menarik diri dari keanggotaan SI. Orang-orang yang sepaham dengan Semaun turut menyatakan diri keluar dan selanjutnya mereka mendirikan partai baru dengan paham komunis yang menjadi pijakannya.
Agus Salim merasa perlu membersihkan partai SI dari 'paham' komunis yang disinyalir masih ada di dalam partainya. Disiplin ketat diterapkan pada partai pimpinan Oemar Said Cokroaminoto tersebut dengan ‘mengusir' keluar anggota SI yang berhaluan komunis dari partai.
Kiprah Agus Salim dalam pentas politik terus berlanjut. Ia menjadi anggota Dewan Perwakilan Rakyat (Volksraad) selama tiga tahun, 1921 – 1924. Sebagai anggota Dewan, Agus Salim terkenal vokal dan amat berani menyuarakan aspirasi rakyat Indonesia. Berulang-ulang ia secara terang-terangan menyerang kebijakan pemerintah Kolonial Belanda yang dinilainya tidak memperhatikan sungguh-sungguh kondisi rakyat Indonesia. Selain melalui suaranya di Volksraad, Agus Salim juga 'menyerang' pemerintah Kolonial Belanda melalui tulisan-tulisannya. Pemerintah Kolonial Belanda dibuat benar-benar jengkel atas ulah lelaki yang semasa mudanya dikenal 'pemberani' ini. Namun anehnya, pemerintah Kolonial Belanda tidak pernah sekalipun menangkap atau memenjarakan tokoh berbadan kecil ini seperti yang biasa diterapkannya pada tokoh-tokoh politik lainnya yang berani bersuara nyaring. Kenyataan ini sering dimanfaatkan orang-orang yang tidak senang pada kiprahnya dengan menyebut Agus Salim sebagai antek Belanda. Sungguh, itu hanya kabar amat murahan karena jiwa dan raga Agus Salim benar-benar Indonesia tulen.
Prestasi politik di dalam negeri juga terus ditorehkan Agus Salim. Sebelum menunjukkan kelihaiannya sebagai diplomator ulung di luar negeri, Agus Salim di awal kemerdekaan merupakan salah seorang dari Panitia Sembilan yang berhasil merumuskan asas dan tujuan pembentukan negara Indonesia yang kemudian oleh Mr. Mohammad Yamin hasil rumusan tersebut ditandatangani dan disebut Piagam Jakarta (Jakarta Charter). Panitia Perancang Undang-Undang Dasar kemudian mengambil Piagam Jakarta untuk digunakan sebagai Pembukaan (preambule) Undang-Undang Dasar dengan membentuk Panitia Kecil dengan diketuai oleh Dr. Mr. Soepomo untuk merumuskannya.
Agus Salim juga tercatat beberapa kali menjadi Menteri. Dalam Kabinet Syahrir I dan II, Agus Salim ditunjuk menjadi Menteri Muda Luar Negeri. la juga ditunjuk sebagai Menteri Luar Negeri semasa Kabinet Hatta.
Belanda yang melancarkan agresi Militer II ke Indonesia, menangkap beberapa tokoh nasional di Ibukota Yogyakarta. Agus Salim turut pula mereka tangkap. Bersama Presiden Soekarno, Agus Salim diasingkan ke Prapat, Sumatera Utara sebelum akhirnya dipindahkan ke Bangka.
Perjuangan luar biasa Agus Salim di dalam mau pun di luar negeri terhenti untuk selama-lamanya pada tanggal 4 November 1954. Ia wafat dalam usia 70 tahun. Jenazahnya dimakamkan di Taman Makan Pahlawan Kalibata Jakarta. Tujuh tahun setelah kematiannya, 1961, Pemerintah Indonesia mengangkat Agus Salim sebagai Pahlawan Pergerakan Nasional.