Das Java-Programm kann doch versuchen eine Funktion aus der anderen DLL aufzurufen.
Wenn das nicht geht, ist die DLL abgestürzt. So einfach, oder?