В последнее время я нашел много вариантов и интересен в своих сравнениях в первую очередь по зрелости и стабильности.
- Crunch - https://github.com/cloudera/crunch
- Scrunch - https://github.com/cloudera/crunch/tree/master/scrunch
- Каскадирование - http://www.cascading.org/
- Scalding https://github.com/twitter/scalding
- FlumeJava
- Scoobi - https://github.com/NICTA/scoobi/