Häufig wurde er auch in Filmen von Francis Ford Coppola besetzt, in nachhaltigster Erinnerung dürfte er wohl mit der Figur des skrupellosen Mafia-Anwaltes Tom Hagen in dem Klassiker "The Godfather"¹⁾ (1972, Der Pate) geblieben sein; für seine Leistung als Vito Corleones alias Marlon Brandos angenommener Sohn wurde Duvall für einen Oscar nominiert und er spielte diese Figur auch 1974 in der Fortsetzung "The Godfather Part II"¹⁾ (Der Pate II). 
In den 1970er Jahren verkörperte der Star eine Reihe von unerbittlichen Bullen und Gangstertypen wie 1973 in "The Outfit" (Revolte in der Unterwelt) oder 1975 in "The Killer Elite"¹⁾ (Die Killer-Elite²⁾). Eher außerhalb dieses Klischees liegt die Figur des Dr. Watson, den Duvall in der gelungenen Krimiparodie "The Seven-Per-Cent Solution"²⁾ (1976, Kein Koks für Sherlock Holmes) mimte, 1979 spielte er neben Marlon Brando in Francis Ford Coppolas Vietnam-Film "Apocalypse Now"¹⁾ den wahnsinnigen Lieutnant Bill Kilgore, der ein Dorf dem Erdboden gleichmachen lässt, nur um dort Surfen zu können; für diese Darstellung erhielt er wiederum eine Oscar-Nominierung. Für das differenzierte Portrait des Country-Sängers Max Sledge in Bruce Beresfords "Tender Mercies" (Comeback der Liebe) konnte Duvall 1983 dann endlich den lang verdienten Oscar entgegennehmen; die Lieder, die von ihm geschrieben waren, sang er selbst.
 
Sehenswert ist auch Ulu Grosbards Thriller "True Confessions"¹⁾ (1981, Fesseln der Macht²⁾) mit Duvall als Polizeiinspektor Thomas Spellacy und Robert De Niro als seinem Bruder bzw. katholischem Priester. In dem Drama "Colors"¹⁾ (1988, Colors – Farben der Gewalt) gab er erneut überzeugend einen erfahrenen Polizisten. Als Calvin Caspary bzw. Gegenspieler von Klaus Maria Brandauer (Kapitän Miller) zeigte er sich 1985 in Jerzy Skolimowskis Siegfried-Lenz-Verfilmung "The Lightship" (Das Feuerschiff), in Volker Schlöndorffs steriler Utopie "The Handmaid's Tale"¹⁾ (Die Geschichte der Dienerin) sah man Duvall 1990 neben Faye Dunaway als autoritären Kommandanten. 1993 schlüpfte er in "Falling Down"¹⁾ (Falling Down – Ein ganz normaler Tag) in die Maske des kurz vor der Pensionierung stehenden Kriminalpolizisten Martin Prendergast, der einen amoklaufenden Mörder alias Michael Douglas zur Strecke bringt, im gleichen Jahr brillierte Duvall an der Seite von Richard Harris in "Wrestling Ernest Hemingway"¹⁾ (Walter & Frank – Ein schräges Paar). 1996 beispielsweise war er als Kleinstadt-Arzt und väterlicher Freund John Travoltas in "Phenomenon"¹⁾ (Phenomenon – Das Unmögliche wird wahr) zu sehen, für seine großartige Leistung als ekelhafter Anwalt Jerome Facher in dem Gerichtsdrama "A Civil Action"¹⁾ (1999, Zivilprozess) – erneut mit John Travolta – erhielt Duvall seine vorerst letzte Oscar-Nominierung. Zu seinen jüngeren Arbeiten für das Kino zählt der im amerikanischen Sezessionskrieg angesiedelte Historienstreifen "Gods And Generals"¹⁾  (2003, Gods and Generals²⁾) mit Duvall als legendärem General Robert Edward Lee, mit Kevin Costner als Regisseur und Partner drehte er den Spätwestern "Open Range"¹⁾ (2003, Open Range – Weites Land²⁾) und präsentierte sich als aufrechter Cowboy Boss Spearman. Das Abenteuer "Secondhand Lions"¹⁾ (2003, Löwen aus zweiter Hand²⁾) zeigt den Hollywoodstar überzeugend neben Michael Caine, Curtis Hanson konnte den Hollywoodstar dazu überreden, in seinem Pokerfilm "Lucky You"¹⁾ (2007, Glück im Spiel) eine Rolle zu übernehmen.
  
In "We Own the Night"¹⁾ von Regisseur James Gray, ein Krimi-Drama, das 2007 bei den Internationalen Filmfestspielen von Cannes als Wettbewerbsbeitrag gezeigt wurde und für eine "Goldene Palme" nominiert war, konnte Duvall als Deputy Chief Albert Grusinsky überzeugen, in der Weihnachtskomödie "Four Christmases"¹⁾ (2008, Mein Schatz, unsere Familie und ich) machte er als Vater des jungen Brad (Vince Vaughn) ebenfalls eine gute Figur. Am 4. März 2010 kam in Deutschland mit "Crazy Heart"¹⁾ das hochgelobte Regiedebüt des Schauspielers Scott Cooper in die Kinos, dessen Handlung von der Biographie des 2007 verstorbenen Country-Sängers Hank Thompson¹⁾ inspiriert wurde; Duvall spielt hier den Wayne Kramer, Barbesitzer und echter Freund des Protagonisten Bad Blake (Jeff Bridges). In "The Road"¹⁾ (2009), einer Adaption von John Hillcoat nach dem Roman "Die Straße" von Cormac McCarthy, mit dem die Reise eines Vaters (Viggo Mortensen) und seines Sohnes (Kodi Smit-McPhee) durch ein postapokalyptisches Amerika thematisiert wird, spielte Duvall einen alten Mann, auf den die beiden während ihrer Reise treffen. Eine weitere Arbeit Duvalls für das Kino war die Tragikomödie "Get Low" (2009, Am Ende des Weges) mit seiner Interpretation des alten Einsiedlers Felix Bush, der im Angesicht des nahenden Todes mit Hilfe des örtlichen Bestatters Frank Quinn (Bill Murray) seine eigene Beerdigung plant. Das Spielfilm-Regiedebüt von Aaron Schneider wurde nach einer wahren Begebenheit gedreht – ein Mann aus Tennessee namens Felix Breazeale plante im Jahre 1938 sein eigenes Begräbnis und feierte dieses zu Lebzeiten mit einem riesigen Happening.
Aktuell stand bzw. steht Duvall für Kinoproduktionen wie die Literaturadaption "Seven Days in Utopia"³⁾ (2011; Regie: Matt Russell), den Thriller "Mississippi Wild" (2012; Regie: Jesse Baget) und das Drama "Jayne Mansfield's Car"³⁾ (2013; Regie: Billy Bob Thornton) vor der Kamera.