故事发生在90年代的台湾，电视台女主持丁玉梅（杨林 饰）因为节目《神童世界》收视率不佳而面临被炒鱿鱼的危机，所以她请香港朋友程凌（岑建勋 饰）帮忙，计划做一期象棋神童的节目挽回收视率。这时，他们遇到了一个名叫王圣方的孩子，他具有预测未来的特异功能，这让众人看到了希望……在寻找小棋王的过程中，程凌时常被自己的回忆打断——在文革时期，他跟随表哥倪斌（金士杰 饰）参加轰轰烈烈的知识青年上山下乡运动。在列车上，他们结识了痴迷下棋的王一生（梁家辉 饰）和学美术出身的阿城（严浩 饰），此后他们在农场遇到了一系列的麻烦，后来王一生因为一次疏忽而锒铛入狱，幸亏倪斌用“传家宝”——一副元代象棋用来送礼疏通，才帮他度过难关。后来王一生在众人帮助下，参加了一场特殊的棋王大战，结果出人意料…… 本片根据著名作家阿城的同名小说改编。

南方边陲小镇，绰号“钉子李”的老人自恃棋艺高超，他将老将钉在棋盘上，声称无人能令他拔钉挪将，独孤求败。在那个特殊的时代，百万青年上山下乡。小镇新来的书记（牛犇 饰）输棋后愤愤不平，派下属去城里寻找擅长琴棋书画的人才。外号“棋呆子”的北京青年王一生（谢园 饰）稀里糊涂成了破坏文化大革命的现行反革命，最后被寻找他的人救了出去。他似乎对所要去的地方根本没任何想法，只要有饭有棋就一切都好。“何以解忧，惟有下棋。”呆子一心只在棋局，他将在那个陌生的所在和各路高手留下令人神往的对决……