Справочник по WinAPI.

AnyPopup.

Описание: function AnyPopup: Bool;

Определяет, существует ли на экране всплывающее окно.

Возвращаемое значение:

Не нуль, если всплывающее окно существует; нуль - если нет. функция находится в файле user32.dll.