OPML: Машинное обучение на основе оптимистичного подхода

OPML(Оптимистическое машинное обучение) — это новая технология, которая использует оптимистичный подход для выполнения вывода и обучения/доработки моделей ИИ в блокчейн-системах. В отличие от ZKML, OPML может предоставлять услуги машинного обучения с более низкими затратами и более высокой эффективностью. Порог входа для OPML довольно низкий, и даже обычный ПК без GPU может запускать крупные языковые модели, включая 7B-LLaMA( объемом около 26GB).

OPML использует механизм верификации игры для обеспечения децентрализации и проверяемого консенсуса в своих услугах машинного обучения. Его процесс включает в себя:

1. Запросчик инициирует задачу ML-сервиса
2. Сервер завершает задачу и отправляет результат в цепочку
3. Проверка результатов валидатором, в случае разногласий запускается игра верификации
4. В конце проведите пошаговый арбитраж на смарт-контракте

! OPML: Машинное обучение с оптимистичным свертыванием

Одноэтапная верификация игры

Работа одностадийного OPML аналогична вычислительной делегировании (RDoC). Она включает в себя следующие ключевые элементы:

• Виртуальная машина для выполнения вне цепи и арбитража в цепи (VM)
• Легковесная библиотека DNN, специально разработанная для вывода AI моделей
• Технология кросс-компиляции кода вывода AI модели в инструкции VM
• Образы VM, управляемые деревом Меркла, только загружают корень Меркла в цепь.

Двухфракционный протокол используется для определения спорных шагов и отправки их в контракт арбитража на блокчейне. При тестировании базовой модели ИИ ( MNIST классификация DNN ) на ПК время вывода в виртуальной машине составило 2 секунды, весь процесс вызова можно завершить в локальной тестовой среде Ethereum за 2 минуты.

! OPML: Машинное обучение с оптимистичной системой свертывания

Многоступенчатая проверка игры

Чтобы преодолеть ограничения однофазного протокола и повысить производительность, OPML предложила расширение многофазного протокола. Этот метод выполняет вычисления в виртуальной машине только на последней стадии, в то время как другие стадии могут выполняться гибко, что позволяет использовать возможности CPU, GPU, TPU и даже параллельной обработки.

Многослойный принцип работы OPML:

• Представьте процесс вычисления ML/DNN в виде вычислительного графа
• Для второго этапа верификационной игры на вычислительном графе можно использовать многопоточный ЦП или ГП.
• Первый этап преобразует вычисления одного узла в инструкции VM

Многоуровневый дизайн значительно повысил производительность, ускорение вычислений может достигать α раз. В то же время размер дерева Меркла также уменьшился с O(mn) до O(m+n), что повысило эффективность и масштабируемость системы.

! OPML: Машинное обучение с оптимистичным свертыванием

! OPML: Машинное обучение с оптимистичным свертыванием

Согласованность и определенность

Чтобы обеспечить согласованность результатов ML, OPML использует два метода:

1. Алгоритм с фиксированной точкой ( Квантовая технология ): использование фиксированной точности вместо плавающей запятой
2. Библиотека с плавающей точкой на основе программного обеспечения: кроссплатформенное поддержание согласованности функций

Эти технологии помогают преодолеть вызовы, связанные с плавающими переменными и различиями платформ, увеличивая целостность и надежность вычислений OPML.

Текущая структура OPML в основном сосредоточена на инференции ML моделей, но также поддерживает процесс обучения, являясь универсальным решением для машинного обучения. Проект OPML все еще находится в разработке, и мы приветствуем всех заинтересованных лиц для участия в его развитии.

! OPML: Машинное обучение с оптимистичной системой свертывания