Tutorials gibts z.B. da: http://www.netfilter.org

Und Wikipedia hat ein schönes Bild, wie die Chains durchlaufen werden:
http://de.wikipedia.org/w/index.php?title=Bild:Nfk-traversal.png&filetimestamp=20050506223606
Da sieht man auch gut, in welcher Reihenfolge die Tables (conntrack, mangle, nat, filter) durchlaufen werden.