Трансформеры

Эффективные методы реализации моделей ИИ

Constantine Korikov
Константин Кориков
PhD, AI Research Engineer
Что происходит, когда вы отправляете запрос в чат с ИИ? 75 мин
Домашнее задание 5 мин

Что происходит,
когда вы отправляете запрос в чат с ИИ?

Домашнее задание

sim8

vocab4 A B C D
d_model6
n_heads2 (d_head = 3)
n_layers2
seq_len10

Задача

A B A C D | A B A C D
Повторение последовательности. Увидел «A» снова → предскажи «B».