os для операционной системы: Linux, none (голый металл)
abi используется для бинарного интерфейса приложения: eabi, gnueabi, gnueabihf
По вашему вопросу arm-none-linux-gnueabi и arm-linux-gnueabi - это то же самое. arm-linux-gcc фактически является двоичным для gcc, который создает объекты для архитектуры ARM, которые будут запущены в Linux с конфигурацией по умолчанию (abi), предоставляемой toolchain.