Seine erste Rolle hatte Gyllenhaal im Alter von elf Jahren in City Slickers (1991). Der erste große Auftritt gelang ihm in der Verfilmung der Autobiographie des Raketenkonstrukteurs Homer H. Hickam in Oktober Sky. Aufsehen erregte er mit der Hauptrolle in Donnie Darko. Die Darstellung des verwirrten und schizophrenen Jungen wurde von der Filmkritik mit gemischten Gefühlen aufgenommen und der Film von seiner Fangemeinde in den Rang eines Kultfilms erhoben. Den Ruf als hoffnungsvoller Jungdarsteller konnte er an der Seite von Susan Sarandon und Dustin Hoffman in Moonlight Mile sowie neben Jennifer Aniston in The Good Girl (beide 2002) untermauern. Sein erster großer Hit gelang ihm mit dem neuen Film von Roland EmmerichThe Day After Tomorrow.