Примитивы нейронной графики
Примитивы нейронной графики, параметризованные полностью связанными нейронными сетями, дорогостоящие для обучения и оценки. Я снизил эту стоимость с помощью универсального метода кодирования ввода, который позволяет использовать меньшую сеть без ущерба для качества, что значительно снизило количество операций с плавающей запятой и операций доступа к памяти.
Что здесь я имею:
Хэш-таблица с несколькими разрешениями обучаемых векторов признаков, значения которых оптимизированы с помощью стохастического градиентного спуска.
Структура с несколькими разрешениями, позволяющая сети устранять неоднозначность хэш-коллизий, упрощая архитектуру, которую легко распараллелить на современных графических процессорах.
Разработана библиотека для максимальной производительности и портабельности.
Использованы следующие библиотеки OpenMP, CUDA, OpenCL, SYCL (hipSYCL и DPC++).
Это открывает возможность нацелиться на широкий спектр различных аппаратных архитектур, в конкретных процессорах и графических процессорах от NVIDIA, AMD и Intel.
Обучение можно разделить на 4 этапа:
1) прочитать весь набор обучающих данных, используемый для настройки системы линейных уравнений
2) загрузить обучающие данные в устройство
3) решить систему линейных уравнений и записать решение в память хоста
4) сохранить полученные опорные векторы с соответствующими весами в файл модели.
Реализация поддерживает плотные данные только для расчетов .