Urodził się w Kioto, lecz dorastał w Kobe. Jego dziadek był buddyjskim duchownym.
Murakami studiował w latach 1968–1975 na Wydziale Literatury tokijskiego Uniwersytetu Waseda teatrologię, w tym pisanie scenariuszy. W latach 1974–1981, razem z żoną Yoko (pobrali się w 1971), prowadził klub jazzowy "Peter Cat" w mieście Kokubunji wchodzącym w skład metropolii Tokio.
W wieku 30 lat wydał swoją pierwszą powieść Słuchaj pieśni wiatru (Hear the Wind Sing, 1979). Po napisaniu wysłał ją na konkurs literacki, zajmując pierwsze miejsce i zdobywając nagrodę magazynu literackiego Gunzō (ang. Gunzo New Writers' Prize, jap. Gunzō Shinjin Bungakushō). Kolejnymi utworami Murakamiego były: Flipper roku 1973 (1980) i Przygoda z owcą (1982). Te trzy utwory nazywane są Trylogią "Szczura", od przydomka jednego z bohaterów. Następne książki: Koniec świata i hard-boiled wonderland (1985, nagroda Jun’ichirō Tanizaki), Tańcz, tańcz, tańcz (1988) i Na południe od granicy, na zachód od słońca (1992) ugruntowały jego pozycję jako pisarza, a także przyniosły mu sławę na Zachodzie, głównie w Stanach Zjednoczonych.
W latach 1986–1988 mieszkał we Włoszech, gdzie napisał jedną z nielicznych powieści realistycznych w swoim dorobku, Norwegian Wood (1987). Książka odniosła oszałamiający sukces, a Murakami stał się gwiazdą mediów. Nie mogąc znieść złych stron sławy, w 1991 r. przeprowadził się do Stanów Zjednoczonych, gdzie pracował na Uniwersytecie Princeton, a od 1993 na Uniwersytecie Williama Howarda Tafta w Santa Ana. Po trzęsieniu ziemi w Kobe, a także ataku gazowym sekty Najwyższa Prawda w tokijskim metrze w 1995 r. powrócił do kraju. W tym samym roku ukazała się Kronika ptaka nakręcacza, oceniana przez krytyków jako największe osiągnięcie literackie pisarza (Nagroda Yomiuri w 1996 r.). W 1997 napisał Underground, w 1999 r. Sputnik Sweetheart, a w 2002 – Kafka nad morzem. Jest autorem kilku zbiorów opowiadań.
W 2006 roku został uhonorowany Nagrodą Franza Kafki.
Murakami jest także tłumaczem, przełożył z angielskiego utwory takich autorów, jak m.in.: Francis Scott Fitzgerald, Raymond Carver, John Irving, Truman Capote. Większość polskich wydań jego twórczości tłumaczyła Anna Zielińska-Elliott.
Jak sam mówi, poczuł chęć pisania na meczu baseballowym w 1978 r., sam nazywa to "objawieniem". Regularnie bierze udział w maratonach.