IA025 - Introdução ao Aprendizado Profundo - 1S/2022 Imprimir

Ementa:

Curso introdutório ao aprendizado profundo com teoria e prática baseadas em problemas de processamento de imagens (PI) e de linguagem natural (PLN). Redes neurais profundas são hoje aplicadas em inúmeras áreas que envolvem processamento de imagens, tais como robótica industrial, diagnóstico de imagens médicas e carros autônomos. Similarmente, redes neurais profundas são o estado da arte em diversas tarefas de Processamento de Linguagem Natural, tais como tradução automática, perguntas e respostas, e busca de documentos. Neste curso aprenderemos os fundamentos do aprendizado profundo, como backpropagation, funções de custo, otimizadores, programação matricial eficiente em GPUs/TPUs, redes convolucionais, mecanismo de atenção, transformers, pré-treinamento não supervisionado, aumento de dados, e métricas de desempenho. O curso utiliza programação no PyTorch e requer conhecimentos básicos de álgebra linear e probabilidade.

Bibliografia:

1. LeCun, Yann, Yoshua Bengio, and Geoffrey Hinton. "Deep learning." nature 521.7553 (2015): 436-444.
2. Nielsen, Michael A. Neural networks and deep learning. Vol. 2018. San Francisco, CA: Determination press, 2015.
3. Krizhevsky, Alex, Ilya Sutskever, and Geoffrey E. Hinton. "Imagenet classification with deep convolutional neural networks." Communications of the ACM 60.6 (2017): 84-90.
4. Vaswani, Ashish, et al. "Attention is all you need." Advances in neural information processing systems. 2017.
5. ​Devlin, Jacob, et al. "Bert: Pre-training of deep bidirectional transformers for language understanding." arXiv preprint arXiv:1810.04805 (2018).

Ano de Catálogo: 2022

Créditos: 4