Pada Kongres Al-Islam di Cirebon tahun 1921, Haji Agus Salim dan H.O.S. Tjokroaminoto didaulat menjadi pimpinan kongres. Dalam kongres itu dibahas upaya mengurangi perselisihan umat tentang soal-soal furu’ dan khilafiyah serta mencari jalan bagaimana mewujudkan persatuan aliran dan kerjasama di antara kaum muslim di tanah air.
Dalam Kongres Al-Islam II di Garut tahun 1922, Agus Salim menguraikan fungsi agama dan
ilmu pengetahuan, hubungan Islam dengan Sosialisme serta kecamannya terhadap Kapitalisme yang hanya mengejar “meerwaarde” (keuntungan, laba), sedangkan Islam dengan ajaran tentang larangan riba menolak keuntungan yang menghalalkan segala cara.
Dalam Kongres Al-Islam di Garut itu Agus Salim menegaskan kepentingan persatuan umat Islam dan menyerukan pentingnya fungsi Majelis Ulama. Ia mengusulkan di Kongres Sarekat Islam di Pekalongan pada tahun 1927 supaya segera didirikan Majelis Ulama. Pembentukan Majelis Ulama terwujud dalam Kongres Sarekat Islam di Yogyakarta tahun 1928.
Pada Kongres Al-Islam Luar Biasa di Surabaya tahun 1924 dihadiri lebih kurang 1.000 orang dari kalangan Sarekat Islam, Muhammadiyah dan organisasi lainnya, Haji Agus Salim mengemukakan, “Nasionalisme berdasar Islam ialah memajukan negeri dan bangsa berdasarkan cita-cita Islam.”
Pada 17 Desember 1934 Haji Oemar Said Tjokroaminoto wafat, maka Haji Agus Salim dipilih menjadi Ketua Dewan Partai PSII (Partai Sarekat Islam Indonesia).
Dalam kurun waktu 1940 – 1942 Haji Agus Salim non-aktif berpolitik, tetapi aktif menulis risalah agama, kebudayaan, politik dan berbicara di corong radio Nirom (Nederlandsch Indische Radio Omroep Maatshappy) mengupas berbagai topik aktual masa itu.
Diplomat Indonesia Pertama
Menjelang kemerdekaan Haji Agus Salim menjadi anggota Badan Penyelidik Usaha-Usaha Persiapan Kemerdekaan Indonesia (BPUPKI) yang dibentuk di zaman Jepang dan melaksanakan sidang pertama tanggal 29 Mei 1945. Dalam sidang BPUPKI Agus Salim tampi sebagai penengah antara kelompok Islam dan nasionalis.
Setelah kemerdekaan dalam tulisannya di Majalah Hikmah edisi 21 Juni 1953, Haji Agus Salim mengungkapkan kedudukan Pancasila sebagai semboyan politik sekaligus lambang persatuan semua golongan yang ada di Indonesia.
Agus Salim ikut mereorganisasi Masyumi, November 1945. Ia tidak sempat melihat Masyumi mengikuti Pemilihan Umum Pertama tahun 1955. Sejarah mencatat Haji Agus Salim mengambil posisi sebagai orang non-partai dalam Pemilu pertama.
Dalam pemerintahan negara pada periode tahun 1946 – 1948 ia menjabat Menteri Muda Luar Negeri dan Menteri Luar Negeri pada beberapa kabinet. Ia terlibat aktif dalam forum-forum perundingan dan perjanjian diplomatik, seperti Perjanjian Persahabatan Indonesia dan Mesir yang ditandatangani pada 10 Juni 1947. Perjanjian Persahabatan Indonesia – Mesir merupakan pengakuan pertama atas kemerdekaan Indonesia.
