OPML: Машинне навчання на основі оптимістичного підходу

OPML(Оптимістичне машинне навчання) є новою технологією, яка використовує оптимістичний підхід для виконання інференції та навчання/доопрацювання AI моделей у блокчейн-системах. На відміну від ZKML, OPML може надавати послуги машинного навчання з нижчими витратами та вищою ефективністю. Поріг для OPML є нижчим, навіть звичайний ПК без GPU може запускати великі мовні моделі, включаючи 7B-LLaMA( приблизно 26GB).

OPML використовує механізм верифікаційної гри для забезпечення децентралізованого та верифікованого консенсусу в сервісах машинного навчання. Його процес включає:

1. Запитувач ініціює завдання ML-сервісу
2. Сервер завершив завдання та надіслав результати в ланцюг
3. Перевіряючий перевіряє результати, у разі незгоди запускає гру для перевірки.
4. Нарешті, провести поетапний арбітраж на смарт-контракті

! OPML: Машинне навчання з Optimistic Rollup

Одноетапна верифікаційна гра

Принцип роботи однофазного OPML подібний до обчислювальної делегації (RDoC). Він містить наступні ключові елементи:

• Віртуальна машина для виконання поза ланцюгом та арбітражу в ланцюгу (VM)
• Легковажна бібліотека DNN, спеціально розроблена для інференції AI моделей
• Технологія крос-компіляції коду висновків AI-моделі в інструкції VM
• VM-образи, які керуються деревом Меркла, завантажують лише корінь Меркла на ланцюг.

Двосторонній протокол використовується для визначення суперечливих кроків і їх відправлення до арбітражного контракту в блокчейні. Під час тестування базової AI моделі (MNIST класифікації DNN) на ПК, час прогнозування у VM становив 2 секунди, а весь процес виклику можна завершити в локальному тестовому середовищі Ethereum за 2 хвилини.

! OPML: Машинне навчання з оптимістичною системою зведення

Багатоступенева верифікація гри

Щоб подолати обмеження однофазного протоколу та підвищити продуктивність, OPML запропонував розширення багатофазного протоколу. Цей підхід виконує обчислення лише на останній фазі у VM, а інші фази можуть виконуватися гнучко, що дозволяє використовувати можливості CPU, GPU, TPU та навіть паралельної обробки.

Принцип роботи багатоступеневої OPML:

• Представити процес обчислень ML/DNN у вигляді обчислювального графа
• У другій фазі перевірки гри на обчислювальному графіку можна використовувати багатопотоковий ЦП або ГП.
• Перший етап перетворює обчислення одного вузла на команди VM

Багатоступеневий дизайн значно підвищив продуктивність, прискорення обчислень може досягати α разів. Одночасно розмір дерева Меркла також зменшився з O(mn) до O(m+n), що підвищило ефективність і масштабованість системи.

! OPML: Машинне навчання з Optimistic Rollup

! OPML: Машинне навчання з Optimistic Rollup

Узгодженість та визначеність

Для забезпечення узгодженості результатів ML, OPML використовує два методи:

1. Фіксований алгоритм ( кількісна технологія ): використання фіксованої точності замість плаваючої коми
2. Бібліотека з плаваючою комою на основі програмного забезпечення: забезпечення функціональної несуперечності в різних платформах

Ці технології допомагають подолати виклики, пов'язані з плаваючими змінними та різницями платформ, підвищуючи цілісність і надійність обчислень OPML.

Поточна структура OPML зосереджена на інференції ML-моделей, але також підтримує процес навчання, є універсальним рішенням для машинного навчання. Проект OPML все ще розробляється, запрошуємо зацікавлених осіб брати участь у внесках.

! OPML: Машинне навчання з оптимістичною системою зведення