my $arrayIndex = 0;
my $blocks;

open(IN,'<',$inputFile)
  or die "Fehler beim Oeffnen von $inputFile: $!\n";

while ( my $line = <IN>) {
  chomp($line);

  # Neuer Block? Dann Index hochzaehlen
  if ($line =~ /^#/) {
    $arrayIndex++;
  }
  else {
    push(@{$blocks->[$arrayIndex]}, $line);
  }
}

close(IN);
...