Nakon diplomiranja radio je u kazalištu na Broadwayu. Njegova prva uloga na televiziji 1963. godine, igrao je u filmu Billyja Wilder "Irma la Douce". I godinu dana kasnije, 1964. godine, dobio je važniju ulogu nasilnik i punk triler "Lady". Njegova glumačka karijera James Caan nastavio se u takvim filmovima kao što su "The Untouchables", "Alfred Hitchcock Hour", "Fight! "Sur.
Godine 1965., glumac igrao utrke vozač Michael u filmu "Red Line 7000". Nakon uloge James Caan ukorijenjene sliku tvrdog, tvrd momak, pomalo razdražljiv, ali uvjeren u svoje sposobnosti. Ova slika je dodatno pojačan s glumcem nakon 1972 James Caan igrao Sonny Corleonea u Francis Ford Coppola filma "Kum". Ta uloga ga je poznati i formira se na slici na ekranu realnog čovjeka.
Godine 1980., Caan okušao kao redatelj i režirao film "Sakrij se u običnom očima na sve." Od 1982. do 1987. godine, glumac je bio depresivan nakon smrti njezine sestre, nije uklonjena, a on je počeo imaju problema s kokainom. U isto vrijeme on je mogao okušati kao trener bejzbolske momčadi. Međutim, od kasnih 80-ih, glumac se vratio u kino.
James Caan je u braku četiri puta. Od 1960. do 1966. u Dee Jay Mathis, oni imaju kćer Tara Caan. Od 1976. do 1977. o bivšoj djevojci Elvis Presley - Sheila Ryan. Njihov zajednički sin Scott Caan je sada također glumac. Od 1990. do 1995. bio je glumac u braku s Ingrid Hayek. Godine 1991. imali su sina Aleksandra J .. Kaan. James Caan četvrti brak se Linda Stokes trajao 1996-2009. Par ima dva sina, James Arthur Caan i Jakova Nikole Caan.
Uz rijetke za holivudskih uloga neurotične glumac James Caan je glumio u više od šezdeset filmova i serijala. Važno je napomenuti da je tijekom svog života bio je angažiran u karateu, a trenutno je majstor 6 dan Gosoku Ryu i nositelj naslova Soke Dai. Jedan od glavnih pravila svog života bio je skepticizam o popularnosti i on više puta rekao da nije moguće napraviti karijeru za život. To nije najvažnija stvar u životu osobe.