Определить, открыто ли диалоговое окно jQuery UI

Собственно, вы должны явно сравнить его с true. Если диалог еще не существует, он не вернет false (как и следовало ожидать), он вернет объект DOM.

if ($('#mydialog').dialog('isOpen') === true) {
    // true
} else {
    // false
}

Если вы хотите проверить, откроется ли диалоговое окно для определенного элемента, вы можете сделать это:

if ($('#elem').closest('.ui-dialog').is(':visible')) { 
  // do something
}

Или, если вы просто хотите проверить, видимо ли сам элемент, вы можете сделать:

if ($('#elem').is(':visible')) { 
  // do something
}

Или...

if ($('#elem:visible').length) { 
  // do something
}

Диалоговое окно

jQuery имеет свойство isOpen, которое может использоваться, чтобы проверить, открыто ли диалоговое окно jQuery.

Вы можете увидеть пример по этой ссылке: http://www.codegateway.com/2012/02/detect-if-jquery-dialog-box-is-open.html