Herman Wouk stammte aus einer russisch-jüdischen Immigrantenfamilie und verbrachte Kindheit und Jugend in der Bronx. Nach dem Besuch der Townsend Harris High School erwarb er 1934 den Grad eines Bachelor of Arts an der Columbia University. Später schrieb er für den Rundfunk.

Während des Zweiten Weltkrieges diente er in der US Navy auf Minensuchbooten und begann nebenbei mit seinem ersten Roman Aurora Dawn. Auch seine späteren Werke spielten oft im Rahmen des Zweiten Weltkrieges: Für seinen 1951 erschienenen Roman The Caine Mutiny über eine Meuterei auf einem US-Kriegsschiff gewann er den Pulitzer-Preis für Belletristik. Der Roman wurde 1954 erfolgreich mit Humphrey Bogart in der Hauptrolle verfilmt. Auch der Bestseller The Winds of War (1971) und seine Fortsetzung War and Remembrance (1978) handelten den Zweiten Weltkrieg ab und wurden jeweils zu Miniserien mit Robert Mitchum verarbeitet. Er widmete sich aber auch anderen historischen Epochen oder wissenschaftlichen Themen, sein Roman A Hole in Texas beschreibt beispielsweise die Entdeckung des Higgs-Bosons. Bis heute wurden Wouks Romane in mindestens 27 Sprachen übersetzt.

1945 heiratete er Betty Sarah Brown (1920–2011)[2], mit der er drei Söhne bekam. Sie wirkte über viele Jahrzehnte als literarische Agentin ihres Mannes. Anlässlich seines 100. Geburtstags veröffentlichte Herman Wouk im Januar 2016 einen Band mit autobiographischen Notizen unter dem Titel Sailor and Fiddler: Reflections of a 100-Year-Old Author.

Wouk starb im Mai 2019, zehn Tage vor seinem 104. Geburtstag, im Schlaf in seinem Haus in Palm Springs, Kalifornien, wo er bis zuletzt an einem Buch gearbeitet hatte.