Deep CollabNet

Visant à améliorer l'apprentissage des réseaux neuronaux profonds, ce travail propose le réseau CollabNet, qui consiste en une nouvelle méthode d'insertion de nouvelles couches cachées dans les réseaux neuronaux de type Deep FeedForward, inspirée des autoencodeurs empilés. La nouvelle forme d'insertion est considérée comme collaborative et cherche à améliorer l'apprentissage par rapport aux approches basées sur les autoencodeurs empilés. Dans cette nouvelle approche, l'insertion de la couche est effectuée de manière coordonnée et graduelle, en gardant sous le contrôle du concepteur l'influence de cette nouvelle couche dans l'apprentissage, et non plus de manière aléatoire et stochastique comme dans l'empilement traditionnel. La collaboration proposée dans ce travail consiste à faire en sorte que la couche nouvellement insérée poursuive l'apprentissage obtenu par les couches précédentes, sans nuire à l'apprentissage global du réseau. De cette manière, la couche nouvellement insérée collabore avec les couches précédentes et l'ensemble fonctionne de manière plus alignée avec l'apprentissage. CollabNet a été testé sur une base de données d'un problème réel et a obtenu des résultats satisfaisants et prometteurs.