Wenn dein grep(1) die Option -r kennt:
$ grep -r muster verzeichnis
Ansonsten:
$ find verzeichnis -type f -print0 | xargs -0 grep muster
In Perl ist das etwas mehr Aufwand, aber dafuer kann man mehr machen als nach einem Muster suchen. Tipp:
perldoc File::Find.