Чтобы открыть модальное диалоговое окно, вам необходимо передать родительское окно и передать необходимые флаги для того, чтобы диалог был модальным, конечно.
В зависимости от того, где вы находитесь в инфраструктуре eclipse, найти это родительское окно не всегда легко.
Как можно получить доступ к родительскому окну?