Es gibt da zum Beispiel memtester. Habe ich aber selbst noch nie verwendet.

Es ist auch prinzipiell schwierig bei laufendem Betriebssystem den RAM zu testen, weil man nicht einfach direkt auf alle Addressen zugreifen kann, sondern immer der Betriebssystemkern mit mehreren Verwaltungsschichten zwischen dem Testprogramm und der Hardware steht.