Lista 3 - Redes Neurais PMC PDF

Preview

Summary

Lista obrigatória de Redes Neurais Perceptron Multi-Camadas...

Description

Data: 22/11/2019 Nota: Valor da atividade: 25 pontos

CURSO: Automação industrial Disciplina: Redes Neurais Artificiais Professor(a): Vinicius Belmuds Vasconcelos Tatagiba

Turma:

GECA-4

Alunos(as):

A lista deve ser entregue em pdf em forma de relatório (nas normas da ABNT) até a data limite de 22/11/2019. Todas as questões de implementação devem ser devidamente explicadas e seus códigos devem ser anexados ao documento . Questão 1) Pesquise e explique detalhadamente o que são situações de underfitting e overfitting em relação ao treinamento de redes neurais. Questão 2) Analise os tipos de dados de classificação mostrados abaixo e desenhe uma topologia da rede neural passível de implementação para resolver cada tipo de problema.

Questão 3) Descreva e explique o algoritmo de treinamento backpropagation e implemente e treine uma rede neural para resolver o problema de classificação de padrões da porta XOR. A explicação da implementação desta questão deve conter: a. Um desenho representando a topologia da rede criada b. Uma tabela com os valores dos pesos iniciais e finais da camada escondida e da camada de saída e os valores obtidos pelo neurônio de saída na classificação. 𝑎𝑛𝑡𝑒𝑟𝑖𝑜𝑟 c. Os valores utilizados para 𝜂 e ɛ, sendo que (|𝐸𝑀𝑎𝑡𝑢𝑎𝑙 − 𝐸𝑀 |) ≤ ɛ

d. O gráfico obtido que relaciona o erro médio ou o erro quadrático médio de cada treinamento com o número de épocas, como o mostrado abaixo:

Obs: A primeira figura representa o erro médio de cada treinamento com o número de épocas e a segunda figura representa o erro quadrático médio. Questão 4) O código abaixo realiza a implementação da porta XOR usando a toolbox NNA do Matlab. Estude as linhas de código mostradas abaixo, descreva como foi feita esta implementação e interprete os resultados obtidos.

close all; clear all; clc; disp('Programa MLP para XOR 2 entradas'); X = [ -1 , 1 , -1 , 1 ;-1 , -1 , 1 , 1 ]; Yd =[ -1 , 1 , 1 , -1 ]; neuronios_camada_escondida = 2; disp('Criando a rede MLP...'); net = feedforwardnet(neuronios_camada_escondida); disp('Configurando a rede...');

net = configure(net,X,Yd); net.divideParam.trainRatio = 1; net.divideParam.valRatio = 0; net.divideParam.testRatio = 0; net.trainFcn = 'traingd'; net.performFcn = 'mse'; net.trainParam.epochs = 50000; net.trainParam.lr = 0.1; net.trainParam.mc = 0; net.trainParam.goal = 0.0001; net.layers{1}.transferFcn = 'tansig'; net.layers{2}.transferFcn = 'tansig'; disp('Inicializando a rede neural....'); net = init(net); disp('Treinando a rede neural...'); [net, tr] = train(net,X,Yd); plotperform(tr); disp('Simulando a rede neural treinada...'); Ysaida = sim(net,X); disp('Resultado: '); disp(Ysaida); disp('Calculando o erro da rede neural...'); perf = perform(net,Yd,Ysaida); disp('Erro: '); disp(perf); wb = getwb(net); [b,IW,LW] = separatewb(net,wb); b = cell2mat(b); disp('Bias de todas camadas ='); disp(b); Wescondida = cell2mat(IW); disp('Pesos da camada escondida ='); disp(Wescondida); Wsaida = cell2mat(LW); disp('Pesos da camada de saida ='); disp(Wsaida); Questão 5) Para a confecção de um processador de imagens de ressonância magnética observou-se que a variável {𝑦}, que mede a energia absorvida do sistema, poderia ser estimada a partir da medição de três outras grandezas {𝑥1 , 𝑥2 , 𝑥3 }. Entretanto a partir da complexidade do processo, sabe-se que este mapeamento é de difícil obtenção por técnicas convencionais, sendo que o modelo matemático disponível para a sua representação tem fornecido resultados insatisfatórios. Assim, a equipe de engenheiros e cientistas pretende utilizar um Perceptron Multicamadas como um aproximador universal de funções, tendo-se como objetivo final

a estimação (após o treinamento) da energia absorvida {𝑦} em função dos valores de 𝑥1 , 𝑥2 𝑒 𝑥3 . A topologia da rede a ser implementada, está mostrada na figura abaixo.

Utilizando o algoritmo de aprendizagem backpropagtion, com as amostras de treinamento apresentadas no apêndice I, realize as seguintes atividades: a) Execute cinco treinamentos para a rede PMC iniciando os pesos com valores randômicos entre 0 e 1. Utilize a função de ativação sigmoide para todos os neurônios, com uma taxa de aprendizagem de 0,1 e precisão de 10−6 , registre os resultados (Erro quadrático médio e número de épocas) de cada treinamento em uma tabela e plote a evolução do Erro quadrático médio com o número de épocas dos dois treinamentos que obtiveram o maior número de épocas em mesmo gráfico. b) Para todos os treinamentos efetuados, faça a validação da rede aplicando o conjunto de teste fornecido também no apêndice I. Obtenha para cada treinamento o erro relativo médio (%) entre os valores desejados frente aqueles fornecidos pela rede, em relação a todas as amostras de teste. Forneça também a respectiva variância. Mostre os resultados obtidos em forma de tabela. c) Fundamentado nas análises da tabela obtida, indique qual das configurações finais de treinamento seria a mais adequada para o sistema de ressonância magnética, ou seja, qual está fornecendo a melhor generalização....