"by" в data.table(group by) - что мне не хватает?

Я работаю с большой таблицей данных и использую 'by' to 'group by' 3 переменными.

Моя таблица данных d и имеет ключ "ma" (10-значное целое число, но я сократил его ниже).

Но установка by="ma,year,month" (что для меня более интуитивная группа по выражению) не дает того, что я хочу. Например, ma = 284 имеет 3 записи за ноябрь 2011 года, или ma = 672 имеет 2 записи на декабрь 2011 года.

> d[,list(n=length(trx_num)),by=list(ma,year,month)]
      ma year month n
  1: 284 2011    12 3
  2: 284 2012     1 1
  3: 284 2011    11 5
  4: 284 2011    11 1
  5: 284 2011    11 2
 ---
5782971: 672 2012     7 1
5782972: 672 2011    12 1
5782973: 672 2012     2 1
5782974: 672 2011    12 1
5782975: 672 2012     1 1

Реверсив порядок "by", однако, дает желаемый результат.

> d[,list(n=length(trx_num)),by=list(month,year,ma)]
     month year ma  n
  1:    12 2011 284  3
  2:     1 2012 284  1
  3:    11 2011 284  8
  4:     5 2012 543  7
  5:     7 2012 543  3
 ---
1214686:     5 2012 672 28
1214687:     4 2012 672 13
1214688:    12 2011 672 11
1214689:     7 2012 672  9
1214690:     9 2012 672 11

Что мне здесь не хватает? Заранее спасибо.

ИЗМЕНИТЬ:

str() данных, которые дают неправильный результат

> str(d)
Classes âdata.tableâ and 'data.frame':  14688135 obs. of  3 variables:
 $ ma   : num  3e+10 3e+10 3e+10 3e+10 3e+10 ...
 $ year : int  2011 2012 2011 2011 2011 2011 2011 2011 2011 2011 ...
 $ month: int  12 1 11 12 11 11 11 11 11 11 ...
 - attr(*, ".internal.selfref")=<externalptr>
 - attr(*, "sorted")= chr "ma"

str() неправильного результата:

> str(d[,.N,by=list(ma,year,month)])
Classes âdata.tableâ and 'data.frame':  5782975 obs. of  4 variables:
 $ ma   : num  3e+10 3e+10 3e+10 3e+10 3e+10 ...
 $ year : int  2011 2012 2011 2011 2011 2012 2012 2012 2012 2012 ...
 $ month: int  12 1 11 11 11 5 7 6 9 8 ...
 $ N    : int  3 1 5 1 2 1 1 1 1 1 ...
 - attr(*, ".internal.selfref")=<externalptr>

И str() правого результата:

> str(d[,.N,by=list(month,year,ma)])
Classes âdata.tableâ and 'data.frame':  1214690 obs. of  4 variables:
 $ month: int  12 1 11 5 7 6 9 8 11 12 ...
 $ year : int  2011 2012 2011 2012 2012 2012 2012 2012 2011 2011 ...
 $ ma   : num  3e+10 3e+10 3e+10 3e+10 3e+10 ...
 $ N    : int  3 1 8 7 3 12 15 3 6 6 ...
 - attr(*, ".internal.selfref")=<externalptr>

Ответ 1

Чтобы завершить следующую цепочку комментариев, столбец ma был типом numeric и содержал значения, которые были совершенно разными, но очень близкими друг к другу, почти в пределах допуска машины, но не совсем. Другими словами, эта ситуация:

 x < y < z
 (y-x) just less than machine tolerance so considered equal
 (z-y) just less than machine tolerance so considered equal
 (z-x) just over machine tolerance so considered not equal

Когда такой столбец группируется вместе с двумя другими столбцами (т.е. by= 3 столбца), порядок этих трех столбцов, если один из этих столбцов имеет такие значения, как указано выше, может изменить, считаются ли эти значения равными (и в одна и та же группа) или нет.

Решение не использовать тип numeric (double - другое имя) для таких данных. Используйте integer, или в этом случае, когда целые числа больше 2 ^ 31 (что приводит к принуждению к double и потере точности, iiuc), character. data.table быстро сортируется integer и character. Это не так быстро при сортировке double все равно.

Мы попытаемся добавить новый warning в data.table:

FR # 2469 Добавьте новый параметр tolerance.warning для обнаружения и выпуска warning, если значения numeric близки, но не совсем в пределах допуска машины

Ответ 2

Я построил небольшой тестовый пример, который в какой-то момент в этом диалоге я думал о неожиданном поведении (но я читал неправильные объекты для сравнения):

d <-     structure(list(ma = c(284L, 284L, 284L, 284L, 284L, 284L, 284L, 
284L, 284L, 284L, 284L, 284L, 672L, 672L, 672L, 672L, 672L), 
    year = c(2011L, 2011L, 2011L, 2012L, 2011L, 2011L, 2011L, 
    2011L, 2011L, 2011L, 2011L, 2011L, 2012L, 2011L, 2012L, 2011L, 
    2012L), month = c(12L, 12L, 12L, 1L, 11L, 11L, 11L, 11L, 
    11L, 11L, 11L, 11L, 7L, 12L, 2L, 12L, 1L), trx_num = c(4L, 
    9L, 8L, 4L, 4L, 6L, 3L, 8L, 2L, 2L, 8L, 9L, 8L, 6L, 10L, 
    6L, 10L)), .Names = c("ma", "year", "month", "trx_num"), row.names = c(NA, 
-17L), class = c("data.table", "data.frame"), .internal.selfref = <pointer: 0x105afb0>, sorted = "ma")

Чтобы построить его:

dat <- read.table(text=" ma year month n
 284 2011    12 3
 284 2012     1 1
 284 2011    11 5
 284 2011    11 1
 284 2011    11 2
 672 2012     7 1
 672 2011    12 1
 672 2012     2 1
 672 2011    12 1
 672 2012     1 1", header=TRUE)
require(data.table)
d <- data.table( data.frame(dat[rep(rownames(dat), times=dat$n), 1:3], trx_num=unlist(sapply(dat$n, sample, x=1:10)) ) )
setkey(d, ma)
d[,list(n=length(trx_num)),by=list(ma,year,month)]
d[,list(n=length(trx_num)),by=list(month,year,ma)]

В этот момент становится ясно, что решение BlueMagister верное:

d[,.N, by=list(month,year,ma)]
d[,.N, by=list(ma,year,month)] # same result modulo row order