В Windows это ненормально, что процесс завершается, как только его родитель был убит (например, Unix-нравится делать это обычно). Поэтому нет никакой непосредственной необходимости в чем-то вроде nohup. Если вы хотите избежать связанного с ним окна консоли, вы можете использовать javaw, но перенаправление не будет работать.
Единственный способ получить поведение nohup, когда процесс по-прежнему выполняется после выхода из системы (например, для микросервисов, аналитических инструментов, серверных заданий и т.д.), заключается в запуске файла .bat с содержимым start javaw -jar ... как услугу или запланированную задачу.