#### Exercício Aula 02 ####

# Mude a seed se quiser!
library(torch)
torch_manual_seed(1)

# Considere o dataset "trees"

View(trees)
?trees

#### Item a) ####

# Com a base trees, considere como resposta a variável "Volume"
# Implemente uma regressão linear múltipla com autograd

# Refaça mudando o optimizer, learning rate, e o número de interações
# Compare

# Compare os resultados com a solução dada por
# lm(Volume ~ Height + Girth, data=trees)

#### Item b) ####

# Considere como resposta a variável "Volume"
# Implemente um MLP simples

# Refaça mudando o optimizer, learning rate, e o número de camadas ocultas
# (aumente a profundidade da rede)
# Compare

# Qual modelo ficou melhor, a regressão linear ou a rede neural?

#### Item c) ####

# Refaça os itens anteriores considerando o dataset escalonado
trees_scale <- scale(trees) |> as.data.frame()

# Compare e decida qual modelo ficou melhor

# ============================================================================


# Exercício Teórico 1: Entendimento da Regressão Linear
# Explique, com suas próprias palavras, o que a equação
# y = β0 + β1 * x + ε representa no contexto da regressão linear.


# Exercício Teórico 2: Função de Perda e Verossimilhança
# Pergunta: Descreva a relação entre a função de perda do erro quadrático médio (MSE)
# e a verossimilhança na regressão linear.
# Por que minimizar o MSE é equivalente a maximizar a verossimilhança?


# Exercício Prático 3: Cálculo de Gradientes
library(torch)

t1 <- torch_tensor(10, requires_grad = TRUE)
# Realize algumas operações com t1, diferentes das vistas em aula. Exemplo:

t2 <- t1 + 2 # mude isso
t3 <- t2$square() # e isso

# Agora calcule o gradiente
t3$backward()
print(t1$grad)

# Compare o resultado do gradiente calculado manualmente.

# Exercício Teórico 4: Derivação do Gradiente
# Obtenha o gradiente da função de perda MSE em relação a β0 e β1.
# Como isso se relaciona com a atualização dos parâmetros na descida de gradiente?

# Exercício Prático 5: Implementação da Regressão Linear com Autograd
# Use o dataset 'mtcars' para implementar uma regressão linear múltipla
# usando descida de gradiente com autograd.

mtcars_scale <- scale(mtcars)

# Implemente a regressão linear e compare com a solução analítica.

# Exercício Prático 6: MLP com Descida de Gradiente
# Construa e treine uma MLP simples para o dataset 'mtcars'.
# Implemente a MLP e o processo de treinamento aqui.

# Exercício Teórico 7: Compreensão de Otimizadores
# Pergunta: Explique a diferença entre a descida de gradiente simples e
# métodos de otimização como L-BFGS ou Adam.
# Em que situações um pode ser preferível ao outro?