Привет, У меня есть одно задание Spark, которое выполняется нормально локально с меньшим количеством данных, но когда я планирую его на YARN для выполнения, я продолжаю получать следующую ОШИБКУ, и медленно все исполнители удаляются из пользовательского интерфейса, и моя работа завершается
15/07/30 10:18:13 ERROR cluster.YarnScheduler: Lost executor 8 on myhost1.com: remote Rpc client disassociated
15/07/30 10:18:13 ERROR cluster.YarnScheduler: Lost executor 6 on myhost2.com: remote Rpc client disassociated
Я использую следующую команду, чтобы запланировать искровое задание в режиме пряжи-клиента
./spark-submit --class com.xyz.MySpark --conf "spark.executor.extraJavaOptions=-XX:MaxPermSize=512M" --driver-java-options -XX:MaxPermSize=512m --driver-memory 3g --master yarn-client --executor-memory 2G --executor-cores 8 --num-executors 12 /home/myuser/myspark-1.0.jar
Я не знаю, в чем проблема, пожалуйста, посоветуйте. Я новичок в Spark. Спасибо заранее.