Walton bergabung dengan JCPenney sebagai trainee manajemen di Des Moines, Iowa. Dia mengundurkan diri dari pekerjaan itu pada periode 1942 dan bergabung dalam Perang Dunia II.
Dia bergabung dengan Korps Intelijen Angkatan Darat AS, dan mengawasi keamanan di pabrik pesawat terbang dan tahanan kamp perang. Dia akhirnya mencapai pangkat Kapten dalam karier tentaranya dan kembali ke kehidupan sipil begitu perang usai.
Setelah keluar dari tentara Sam Walton menikahi Helen Robson pada 14 Februari 1943. Dia kemudian meminjam sejumlah uang dari mertuanya dan membeli toko roti Ben Franklin di Newport, Arkansas, pada 1945.
Toko tersebut kemudian menjadi cikal bakal waralaba rantai toko ritel. Setelah sukses dengan manajemen ritel, pada awal 1960an Walton bersama dengan saudaranya James, membuka 15 waralaba Ben Franklin dan satu toko independen.
Walton kemudian membuka gerai yang lebih besar di daerah pedesaan dengan harga yang lebih murah, guna menarik lebih banyak pelanggan dan mencapai volume penjualan yang lebih tinggi. Namun, para eksekutif Ben Franklin tidak menyukai konsep ini dan menolak rencana tersebut.