OPML: Машинно-обучающая рамка на основе оптимистичного подхода

Мы предложили новую структуру под названием OPML(Оптимистическое машинное обучение), которая может эффективно выполнять вывод и обучение моделей ИИ в блокчейн-системах. По сравнению с ZKML, OPML обладает более низкими затратами и высокой эффективностью. Аппаратные требования OPML очень низкие, обычный ПК может выполнять задачи OPML, включая крупные языковые модели, такие как 7B-LLaMA, без GPU.

OPML использует механизм проверки игровых процессов для обеспечения децентрализации и проверяемости ML-сервисов. Его процесс выглядит следующим образом:

1. Пользователь инициирует запрос на услуги ML
2. Сервер завершает задачу и отправляет результаты в блокчейн
3. Проверка результатов валидатора, в случае разногласий запускается игра верификации
4. Определение конкретных шагов ошибки через двоичный протокол
5. Наконец, арбитраж осуществляется поэтапно с помощью смарт-контракта.

! OPML: Машинное обучение с оптимистичным свертыванием

Однофазная проверка игры

Ключевые моменты одностадийного OPML включают:

• Построение виртуальной машины для оффлайн выполнения и онлайн арбитража (VM)
• Реализовать специализированную легковесную библиотеку DNN для повышения эффективности вывода ИИ
• Используйте технологию кросс-компиляции для компиляции кода вывода AI в инструкции VM
• Использование дерева Меркла для управления образами VM, загрузка только корневого хеша в цепочку

В базовом тестировании мы можем завершить DNN вывод за 2 секунды, весь процесс испытания может быть завершен за 2 минуты.

! OPML: Машинное обучение с оптимистичной системой свертывания

Многоступенчатая верификация игры

Чтобы преодолеть ограничения однофазной схемы, мы предложили многофазную верификационную игру:

• Вычисления выполняются только на последнем этапе в VM, другие этапы могут выполняться гибко.
• Полное использование ускорения и параллельной обработки с помощью GPU/TPU
• Значительное повышение производительности выполнения, близкое к уровню локальной среды
• Использование деревьев Меркла для обеспечения целостности и безопасности переходов между этапами

В качестве примера модели LLaMA мы используем двухфазный метод OPML:

• На втором этапе проводится верификация игры на вычислительном графе, можно использовать ускорение с помощью GPU
• Первый этап преобразует вычисления отдельного узла в инструкции VM

Многоступенчатый метод может обеспечить α-кратное ускорение вычислений по сравнению с одноступенчатым, одновременно значительно уменьшая размер дерева Меркла.

! OPML: Машинное обучение с оптимистичным свертыванием

! OPML: Машинное обучение с оптимистичным свертыванием

Согласованность и определенность

Чтобы обеспечить согласованность результатов ML, мы приняли следующие меры:

1. Используйте фиксированную точку алгоритма ( для технологии квантизации ), чтобы уменьшить влияние ошибок с плавающей точкой.
2. Использование единой библиотеки программного обеспечения с плавающей запятой для разных платформ

Эти технологии эффективно преодолевают вызовы, связанные с плавающими переменными и различиями платформ, увеличивая надежность вычислений OPML.

OPML все еще находится в процессе разработки. Мы приветствуем заинтересованных лиц присоединиться и внести свой вклад в развитие OPML.

! OPML: Машинное обучение с оптимистичной системой свертывания