Числа с плавающей точкой

Эффективные методы реализации моделей ИИ

Константин Кориков

PhD, AI Research Engineer

sim8 v2 — обзор 10 мин

Домашнее задание 15 мин

Ассемблерная эстафета 25 мин

sim8 v2

FPU-расширение поверх целочисленного ядра

3 раунда

Dot product

OFP8 E4M3 входы, float16 аккумулятор.

y = Wx

Matmul = набор dot product'ов. Двойной цикл, row-major.

exp(x) без инструкции

ISA не поддерживает exp.