Скорее всего, у тебя там затирается стек. Обычно такое бывает при выходе за границы локального массива, или при записи по неправильному указателю. Еще надо проверить, как объявлены (и написаны!) функц ...
Не всегда закрывается по esc. Окно браузера перехватывает фокус... Такая же проблема была у ранних версий IEView, но там ее автор как-то решил. Может поделиться опытом...