1945年群馬県生まれ。
早稲田大学第二文学部演劇専修卒後、フリーの助監督として浦山桐郎、篠田正浩監督らにつく。
81年「泥の河」で監督デビュー。戦争の傷あとを残す大阪の川べりを舞台に、少年少女のひと夏の出会いと別れを、白黒・スタンダードの端正な画像で描き、キネマ旬報ベスト・テン第1位、毎日映画コンクール監督賞など数多くの賞を独占、海外でもモスクワ映画祭銀賞を獲得、アメリカ・アカデミー賞の外国語映画へノミネートされるなど高い評価を受ける。

以降、84年に李恢成の原作による「伽や子のために」を発表。在日朝鮮人と日本人少女との愛と別れを慈しみをもって描き、フランスのジョルジュ・サドゥール賞を日本人として初受賞。
90年、純文学の極北と称された島尾敏雄の「死の棘」を映画化。カンヌ映画祭で“グランプリ・カンヌ1990”と“国際批評家連盟賞”をダブル受賞する。
以上の3作品はいずれも1950年代を舞台としており、戦後生まれとしての“日本人と私”を問い続けた小栗康平の“戦後3部作”と位置付けられている。

96年には、自身初のオリジナル脚本による「眠る男」を発表。動かず、語らない、眠る男を映画の主人公に据えて、これまでの映画話法を根底からくつがえす作品となり、モントリオール映画祭審査委員特別大賞を受賞。群馬県が自治体として映画製作をしたこと、韓国を代表する俳優、安聖基、インドネシアの国民的な女優、クリスティン・ハキム、そして話題作に出演し続ける日本の役所広司が共演したことでも話題になった。

03年にNHK人間講座「映画を見る眼―映像の文体を考える」全8回を担当。
05年、9年ぶりとなる新作「埋もれ木」が公開された。
06年7月に、著書「時間をほどく」（朝日新聞社）、DVD「埋もれ木」（松竹株式会社ビデオ事業室）をリリース。