Создание пользовательской связи в нейронных сетях PyBrain

Я хочу создать искусственную нейронную сеть (в PyBrain), которая следует за следующим макетом:

Однако я не могу найти правильный способ добиться этого. Единственный вариант, который я вижу в документации, - это способ создания полностью подключенных слоев, чего я не хочу: я хочу, чтобы некоторые из моих входных узлов были подключены ко второму скрытому слою, а не к первому.

Ответ 1

Решение состоит в том, чтобы использовать тип соединения по вашему выбору, но с параметрами нарезки: inSliceFrom, inSliceTo, outSliceFrom и outSliceTo. Я согласен, что документация должна упоминать об этом, пока это только в комментариях класса Connection.

Вот пример кода для вашего случая:

#create network and modules
net = FeedForwardNetwork()
inp = LinearLayer(9)
h1 = SigmoidLayer(2)
h2 = TanhLayer(2)
outp = LinearLayer(1)
# add modules
net.addOutputModule(outp)
net.addInputModule(inp)
net.addModule(h1)
net.addModule(h2)
# create connections
net.addConnection(FullConnection(inp, h1, inSliceTo=6))
net.addConnection(FullConnection(inp, h2, inSliceFrom=6))
net.addConnection(FullConnection(h1, h2))
net.addConnection(FullConnection(h2, outp))
# finish up
net.sortModules()

Ответ 2

Альтернативный способ, предложенный schaul, заключается в использовании нескольких входных уровней.

#create network
net = FeedForwardNetwork()

# create and add modules
input_1 = LinearLayer(6)
net.addInputModule(input_1)
input_2 = LinearLayer(3)
net.addInputModule(input_2)
h1 = SigmoidLayer(2)
net.addModule(h1)
h2 = SigmoidLayer(2)
net.addModule(h2)
outp = SigmoidLayer(1)
net.addOutputModule(outp)

# create connections
net.addConnection(FullConnection(input_1, h1))
net.addConnection(FullConnection(input_2, h2))
net.addConnection(FullConnection(h1, h2))
net.addConnection(FullConnection(h2, outp))

net.sortModules()