Es könnte sein dass der Dialog kein echtes true/false zurück liefert. Es könnte helfen so was zu schreiben:

onsubmit="return my_dialog()?true:false"