ImageMagick ist typischerweise noch speicherhungriger. Schlägt schon das Einlesen mit GD fehl? Könntest du vielleicht mit Imager arbeiten?