Dimulai dari titik nol, Salim tidak serta merta meraih kesuksesan dalam perjalanan usahanya. Sejak pindah dari China (Tiongkok) ke Indonesia, Salim awalnya mencoba usaha perdagangan tembakau dan cengkeh di Kudus, Jawa Tengah di usia 25 tahun. Setelah sempat berjaya, pada 1942 bisnisnya lantas bangkrut lantaran kedatangan Jepang yang menghentikan semua kegiatan ekonomi masyarakat.
Namun, setelah Jepang hengkang, Salim mencoba peruntungan lain dengan berpindah ke Jakarta dan berbisnis penyediaan logistik untuk tentara. Sukses dalam bisnis tersebut, Salim lantas mendirikan Central Bank Asia pada 1957 bersama orang kepercayaannya, Mochtar Riady.
Tidak hanya itu, Salim juga berhasil membangun sebuah perusahaan tepung terigu terbesar di Indonesia yaitu, PT Bogasari. Singkat cerita, perusahaan ini berhasil memonopoli pasar terigu di Indonesia dengan menyuplai dua per tiga dari seluruh kebutuhan terigu nasional.