Revista de Engenharia da Computação e Tecnologia da Informação

Aprendizagem potencial auto-organizada: melhorar o conhecimento do SOM para treinar redes neuronais supervisionadas com melhor desempenho de interpretação e generalização

Ryotaro Kamimura

Aprendizagem potencial auto-organizada: melhorar o conhecimento do SOM para treinar redes neuronais supervisionadas com melhor desempenho de interpretação e generalização

O presente artigo propõe um novo tipo de método de aprendizagem denominado “aprendizagem potencial auto-organizada” para melhorar o desempenho de generalização e interpretação. Neste método, o mapa auto-organizado (SOM) é utilizado para produzir o conhecimento (conhecimento SOM) sobre os padrões de entrada. O conhecimento do SOM é por vezes redundante e não necessariamente eficaz no treino de redes neuronais multicamadas . O presente método é apresentado para se focar na parte mais importante do conhecimento, que é extraída considerando a potencialidade dos neurónios. Para a primeira aproximação, a potencialidade é definida em termos da variância dos neurónios. De seguida, os neurónios com maior potencialidade são escolhidos como os importantes para serem utilizados na aprendizagem supervisionada. O método foi aplicado a três problemas, nomeadamente, dados artificiais , dados reais de aprendizagem de uma segunda língua e dados de biodegeneração na base de dados de aprendizagem automática . Em todos os casos, verificou-se que, em termos de variância, a potencialidade foi eficaz na extração de um pequeno número de entradas importantes e de neurónios escondidos. De seguida, o desempenho da generalização foi bastante melhorado, em particular quando se considerou a potencialidade dos neurónios de entrada e ocultos com pesos de ligação facilmente interpretáveis.