Я пытаюсь создать дендрограмму с использованием атрибута children_, предоставленного AgglomerativeClustering, но пока мне не повезло. Я не могу использовать scipy.cluster, поскольку агломеративная кластеризация, представленная в scipy, не имеет некоторых важных для меня параметров (например, для указания количества кластеров). Я был бы очень благодарен за любой совет.
import sklearn.cluster
clstr = cluster.AgglomerativeClustering(n_clusters=2)
clusterer.children_
Я столкнулся с той же проблемой некоторое время назад. То, как мне удалось построить проклятую дендограмму, было использование программного пакета ete3. Этот пакет способен гибко строить деревья с различными опциями. Единственная трудность заключалась в преобразовании вывода sklearn children_ в Newick Tree, который можно прочитать и понять ete3. Кроме того, мне нужно вручную вычислить диапазон дендритов, потому что эта информация не была предоставлена children_. Вот фрагмент кода, который я использовал. Он вычисляет дерево Newick, а затем показывает структуру данных ete3 Tree. Подробнее о том, как построить, посмотрите здесь
import numpy as np
from sklearn.cluster import AgglomerativeClustering
import ete3
def build_Newick_tree(children,n_leaves,X,leaf_labels,spanner):
"""
build_Newick_tree(children,n_leaves,X,leaf_labels,spanner)
Get a string representation (Newick tree) from the sklearn
AgglomerativeClustering.fit output.
Input:
children: AgglomerativeClustering.children_
n_leaves: AgglomerativeClustering.n_leaves_
X: parameters supplied to AgglomerativeClustering.fit
leaf_labels: The label of each parameter array in X
spanner: Callable that computes the dendrite span
Output:
ntree: A str with the Newick tree representation
"""
return go_down_tree(children,n_leaves,X,leaf_labels,len(children)+n_leaves-1,spanner)[0]+';'
def go_down_tree(children,n_leaves,X,leaf_labels,nodename,spanner):
"""
go_down_tree(children,n_leaves,X,leaf_labels,nodename,spanner)
Iterative function that traverses the subtree that descends from
nodename and returns the Newick representation of the subtree.
Input:
children: AgglomerativeClustering.children_
n_leaves: AgglomerativeClustering.n_leaves_
X: parameters supplied to AgglomerativeClustering.fit
leaf_labels: The label of each parameter array in X
nodename: An int that is the intermediate node name whos
children are located in children[nodename-n_leaves].
spanner: Callable that computes the dendrite span
Output:
ntree: A str with the Newick tree representation
"""
nodeindex = nodename-n_leaves
if nodename<n_leaves:
return leaf_labels[nodeindex],np.array([X[nodeindex]])
else:
node_children = children[nodeindex]
branch0,branch0samples = go_down_tree(children,n_leaves,X,leaf_labels,node_children[0])
branch1,branch1samples = go_down_tree(children,n_leaves,X,leaf_labels,node_children[1])
node = np.vstack((branch0samples,branch1samples))
branch0span = spanner(branch0samples)
branch1span = spanner(branch1samples)
nodespan = spanner(node)
branch0distance = nodespan-branch0span
branch1distance = nodespan-branch1span
nodename = '({branch0}:{branch0distance},{branch1}:{branch1distance})'.format(branch0=branch0,branch0distance=branch0distance,branch1=branch1,branch1distance=branch1distance)
return nodename,node
def get_cluster_spanner(aggClusterer):
"""
spanner = get_cluster_spanner(aggClusterer)
Input:
aggClusterer: sklearn.cluster.AgglomerativeClustering instance
Get a callable that computes a given cluster span. To compute
a cluster span, call spanner(cluster)
The cluster must be a 2D numpy array, where the axis=0 holds
separate cluster members and the axis=1 holds the different
variables.
"""
if aggClusterer.linkage=='ward':
if aggClusterer.affinity=='euclidean':
spanner = lambda x:np.sum((x-aggClusterer.pooling_func(x,axis=0))**2)
elif aggClusterer.linkage=='complete':
if aggClusterer.affinity=='euclidean':
spanner = lambda x:np.max(np.sum((x[:,None,:]-x[None,:,:])**2,axis=2))
elif aggClusterer.affinity=='l1' or aggClusterer.affinity=='manhattan':
spanner = lambda x:np.max(np.sum(np.abs(x[:,None,:]-x[None,:,:]),axis=2))
elif aggClusterer.affinity=='l2':
spanner = lambda x:np.max(np.sqrt(np.sum((x[:,None,:]-x[None,:,:])**2,axis=2)))
elif aggClusterer.affinity=='cosine':
spanner = lambda x:np.max(np.sum((x[:,None,:]*x[None,:,:]))/(np.sqrt(np.sum(x[:,None,:]*x[:,None,:],axis=2,keepdims=True))*np.sqrt(np.sum(x[None,:,:]*x[None,:,:],axis=2,keepdims=True))))
else:
raise AttributeError('Unknown affinity attribute value {0}.'.format(aggClusterer.affinity))
elif aggClusterer.linkage=='average':
if aggClusterer.affinity=='euclidean':
spanner = lambda x:np.mean(np.sum((x[:,None,:]-x[None,:,:])**2,axis=2))
elif aggClusterer.affinity=='l1' or aggClusterer.affinity=='manhattan':
spanner = lambda x:np.mean(np.sum(np.abs(x[:,None,:]-x[None,:,:]),axis=2))
elif aggClusterer.affinity=='l2':
spanner = lambda x:np.mean(np.sqrt(np.sum((x[:,None,:]-x[None,:,:])**2,axis=2)))
elif aggClusterer.affinity=='cosine':
spanner = lambda x:np.mean(np.sum((x[:,None,:]*x[None,:,:]))/(np.sqrt(np.sum(x[:,None,:]*x[:,None,:],axis=2,keepdims=True))*np.sqrt(np.sum(x[None,:,:]*x[None,:,:],axis=2,keepdims=True))))
else:
raise AttributeError('Unknown affinity attribute value {0}.'.format(aggClusterer.affinity))
else:
raise AttributeError('Unknown linkage attribute value {0}.'.format(aggClusterer.linkage))
return spanner
clusterer = AgglomerativeClustering(n_clusters=2,compute_full_tree=True) # You can set compute_full_tree to 'auto', but I left it this way to get the entire tree plotted
clusterer.fit(X) # X for whatever you want to fit
spanner = get_cluster_spanner(clusterer)
newick_tree = build_Newick_tree(clusterer.children_,clusterer.n_leaves_,X,leaf_labels,spanner) # leaf_labels is a list of labels for each entry in X
tree = ete3.Tree(newick_tree)
tree.show()
Вместо этого используйте scipy реализацию агломеративной кластеризации. Вот пример.
from scipy.cluster.hierarchy import dendrogram, linkage
data = [[0., 0.], [0.1, -0.1], [1., 1.], [1.1, 1.1]]
Z = linkage(data)
dendrogram(Z)
Вы можете найти документацию для linkage здесь и документацию для dendrogram здесь.
Вот простая функция для выбора иерархической модели кластеризации из sklearn и ее построения с использованием функции scipy dendrogram. Похоже, что функции графического отображения часто не поддерживаются непосредственно в sklearn. Вы можете найти интересное обсуждение этого вопроса, связанного с запросом на растяжение для этого plot_dendrogram фрагмента кода здесь.
Я бы уточнил, что описанный вами вариант использования (определение количества кластеров) доступен в scipy: после того, как вы выполнили иерархическую кластеризацию с помощью scipy linkage, вы можете сократить иерархию на любое количество кластеров, которые вы хотите использовать fcluster с числом кластеров, указанным в аргументе t и criterion='maxclust'.
Для тех, кто хочет выйти из Python и использовать надежную библиотеку D3, не сложно использовать API-интерфейсы d3.cluster() (или, я думаю, d3.tree()), чтобы достичь приятного настраиваемого результата.
См. jsfiddle для демонстрации.
Магистр children_, к счастью, легко работает как массив JS, и единственным промежуточным шагом является использование d3.stratify(), чтобы превратить его в иерархическое представление. В частности, нам нужно, чтобы каждый node имел id и a parentId:
var N = 272; // Your n_samples/corpus size.
var root = d3.stratify()
.id((d,i) => i + N)
.parentId((d, i) => {
var parIndex = data.findIndex(e => e.includes(i + N));
if (parIndex < 0) {
return; // The root should have an undefined parentId.
}
return parIndex + N;
})(data); // Your children_
В итоге вы получите по крайней мере O (n ^ 2) поведение из-за строки findIndex, но, вероятно, это не имеет значения, пока ваши n_samples не станут огромными, и в этом случае вы можете прекомпилировать более эффективный индекс.
Кроме того, это довольно много использования plug & chug d3.cluster(). См. Mbostock канонический блок или мой JSFiddle.
N.B. Для моего варианта использования хватило просто показать не-листовые узлы; немного сложнее визуализировать образцы/листья, поскольку они могут быть не все в массиве children_ явно.