OPML: Apprentissage automatique basé sur la méthode optimiste
OPML(L'apprentissage automatique optimiste) est une nouvelle technologie qui utilise des méthodes optimistes pour effectuer l'inférence et l'entraînement / ajustement de modèles d'IA sur des systèmes de blockchain. Par rapport à ZKML, OPML peut fournir des services d'apprentissage automatique à un coût inférieur et avec une efficacité supérieure. OPML a un seuil d'entrée bas, même un PC ordinaire sans GPU peut exécuter de grands modèles de langage, y compris 7B-LLaMA( d'environ 26 Go).
OPML utilise un mécanisme de jeu vérifiable pour garantir la décentralisation et le consensus vérifiable des services d'apprentissage automatique. Son processus comprend :
Le demandeur lance une tâche de service ML.
Le serveur termine la tâche et soumet les résultats sur la chaîne.
Les validateurs vérifient les résultats, et s'il y a un désaccord, ils lancent le jeu de validation.
Enfin, effectuer un arbitrage étape par étape sur le contrat intelligent
Jeu de vérification à une étape
Le fonctionnement de l'OPML à une seule étape est similaire à celui de la délégation de calcul (RDoC). Il comprend les éléments clés suivants :
Machine virtuelle pour l'exécution hors chaîne et l'arbitrage en chaîne (VM)
Bibliothèque DNN légère spécialement conçue pour l'inférence de modèles AI
La technologie de compilation croisée pour compiler le code d'inférence du modèle AI en instructions VM
Images de VM gérées par un arbre de Merkle, uniquement la racine de Merkle est téléchargée sur la chaîne
Le protocole de bifurcation est utilisé pour localiser les étapes contestées et les envoyer au contrat d'arbitrage sur la chaîne. Lors de l'essai d'un modèle AI de base sur PC ( classification MNIST DNN ), le temps d'inférence dans la VM était de 2 secondes, et l'ensemble du processus de défi pouvait être complété en 2 minutes dans un environnement de test Ethereum local.
Jeu de validation multi-étapes
Pour surmonter les limites du protocole à une seule étape et améliorer les performances, OPML a proposé une extension de protocole à plusieurs étapes. Cette méthode effectue des calculs dans la VM uniquement à la dernière étape, tandis que les autres étapes peuvent être exécutées de manière flexible, tirant ainsi parti des capacités du CPU, du GPU, du TPU et même du traitement parallèle.
Le principe de fonctionnement de l'OPML multi-niveaux :
Représenter le processus de calcul ML/DNN sous forme de graphique de calcul
Effectuer un jeu de vérification de deuxième phase sur le graphique de calcul, en utilisant un CPU ou un GPU multi-thread.
La première étape consiste à convertir le calcul d'un nœud unique en instructions VM.
La conception multistade améliore considérablement les performances, avec un accélérateur de calcul pouvant atteindre α fois. En même temps, la taille de l'arbre de Merkle a également été réduite de O(mn) à O(m+n), améliorant ainsi l'efficacité et l'évolutivité du système.
Cohérence et déterminisme
Pour garantir la cohérence des résultats ML, OPML a utilisé deux méthodes :
Algorithme à point fixe ( technologie de quantification ) : utiliser une précision fixe à la place des nombres à virgule flottante
Bibliothèque de flottants basée sur le logiciel : maintien de la cohérence fonctionnelle multiplateforme
Ces technologies aident à surmonter les défis posés par les variables flottantes et les différences de plateforme, renforçant l'intégrité et la fiabilité du calcul OPML.
Le cadre OPML actuel se concentre principalement sur l'inférence de modèles ML, mais prend également en charge le processus d'entraînement, constituant ainsi une solution d'apprentissage automatique polyvalente. Le projet OPML est encore en développement, et les personnes intéressées sont les bienvenues pour contribuer.
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
12 J'aime
Récompense
12
7
Partager
Commentaire
0/400
CryptoNomics
· 07-25 15:52
*ajuste ses lunettes* fascinant comment ils ignorent complètement les implications de l'équilibre de Nash... la corrélation entre les nœuds de validation suggérerait p(échec) > 0,372
Voir l'originalRépondre0
LiquidityWitch
· 07-25 15:08
Les PC ordinaires d'une famille modeste ont enfin trouvé leur printemps.
Voir l'originalRépondre0
DegenWhisperer
· 07-25 14:41
Génial ! Jouer avec de grands modèles sans GPU ?
Voir l'originalRépondre0
NotFinancialAdvice
· 07-22 17:20
Mince, ce coût est vraiment absurde.
Voir l'originalRépondre0
SleepTrader
· 07-22 17:17
Je dois dire que c'est vraiment impressionnant.
Voir l'originalRépondre0
BearMarketBarber
· 07-22 17:07
On ne sait pas encore si ça va passer.
Voir l'originalRépondre0
GateUser-00be86fc
· 07-22 17:06
C'est vraiment innovant, cette technologie est tellement hardcore.
OPML : Nouvelle technologie d'apprentissage automatique optimiste sur la Blockchain
OPML: Apprentissage automatique basé sur la méthode optimiste
OPML(L'apprentissage automatique optimiste) est une nouvelle technologie qui utilise des méthodes optimistes pour effectuer l'inférence et l'entraînement / ajustement de modèles d'IA sur des systèmes de blockchain. Par rapport à ZKML, OPML peut fournir des services d'apprentissage automatique à un coût inférieur et avec une efficacité supérieure. OPML a un seuil d'entrée bas, même un PC ordinaire sans GPU peut exécuter de grands modèles de langage, y compris 7B-LLaMA( d'environ 26 Go).
OPML utilise un mécanisme de jeu vérifiable pour garantir la décentralisation et le consensus vérifiable des services d'apprentissage automatique. Son processus comprend :
Jeu de vérification à une étape
Le fonctionnement de l'OPML à une seule étape est similaire à celui de la délégation de calcul (RDoC). Il comprend les éléments clés suivants :
Le protocole de bifurcation est utilisé pour localiser les étapes contestées et les envoyer au contrat d'arbitrage sur la chaîne. Lors de l'essai d'un modèle AI de base sur PC ( classification MNIST DNN ), le temps d'inférence dans la VM était de 2 secondes, et l'ensemble du processus de défi pouvait être complété en 2 minutes dans un environnement de test Ethereum local.
Jeu de validation multi-étapes
Pour surmonter les limites du protocole à une seule étape et améliorer les performances, OPML a proposé une extension de protocole à plusieurs étapes. Cette méthode effectue des calculs dans la VM uniquement à la dernière étape, tandis que les autres étapes peuvent être exécutées de manière flexible, tirant ainsi parti des capacités du CPU, du GPU, du TPU et même du traitement parallèle.
Le principe de fonctionnement de l'OPML multi-niveaux :
La conception multistade améliore considérablement les performances, avec un accélérateur de calcul pouvant atteindre α fois. En même temps, la taille de l'arbre de Merkle a également été réduite de O(mn) à O(m+n), améliorant ainsi l'efficacité et l'évolutivité du système.
Cohérence et déterminisme
Pour garantir la cohérence des résultats ML, OPML a utilisé deux méthodes :
Ces technologies aident à surmonter les défis posés par les variables flottantes et les différences de plateforme, renforçant l'intégrité et la fiabilité du calcul OPML.
Le cadre OPML actuel se concentre principalement sur l'inférence de modèles ML, mais prend également en charge le processus d'entraînement, constituant ainsi une solution d'apprentissage automatique polyvalente. Le projet OPML est encore en développement, et les personnes intéressées sont les bienvenues pour contribuer.