OPML: Aprendizaje automático basado en métodos optimistas
OPML(El aprendizaje automático optimista) es una nueva tecnología que utiliza métodos optimistas para realizar inferencia y entrenamiento/ajuste fino de modelos de IA en sistemas de blockchain. En comparación con ZKML, OPML puede proporcionar servicios de aprendizaje automático a un costo más bajo y con mayor eficiencia. OPML tiene un umbral bajo, incluso una PC normal sin GPU puede ejecutar grandes modelos de lenguaje, incluyendo 7B-LLaMA( aproximadamente 26GB).
OPML utiliza un mecanismo de juego de verificación para asegurar la descentralización y el consenso verificable de los servicios de aprendizaje automático. Su proceso incluye:
El solicitante inicia la tarea de servicio ML
El servidor completa la tarea y envía los resultados a la cadena.
Los validadores revisan los resultados y, si hay objeciones, inician el juego de validación.
Finalmente, realizar la arbitraje paso a paso en el contrato inteligente
Juego de verificación de una sola etapa
El principio de funcionamiento del OPML de una sola etapa es similar al cálculo de la delegación (RDoC). Contiene los siguientes elementos clave:
Máquina virtual para la ejecución fuera de la cadena y el arbitraje en la cadena (VM)
Biblioteca DNN ligera diseñada específicamente para la inferencia de modelos de IA
Tecnología de compilación cruzada que compila el código de inferencia del modelo de IA en instrucciones de VM
Imágenes de VM gestionadas por un árbol de Merkle, solo se sube la raíz de Merkle a la cadena
El protocolo de partición se utiliza para localizar pasos en disputa y enviarlos al contrato de arbitraje en la cadena. Al probar un modelo básico de IA ( clasificación DNN MNIST ) en PC, el tiempo de inferencia en la VM fue de 2 segundos, y todo el proceso de desafío se pudo completar en un entorno de prueba de Ethereum local en 2 minutos.
Juego de verificación de múltiples etapas
Para superar las limitaciones del protocolo de una sola etapa y mejorar el rendimiento, OPML ha propuesto una extensión del protocolo de múltiples etapas. Este enfoque solo realiza cálculos en la VM en la última etapa, mientras que las otras etapas se pueden ejecutar de manera flexible, aprovechando así la capacidad de la CPU, GPU, TPU e incluso el procesamiento en paralelo.
El principio de funcionamiento del OPML de múltiples etapas:
Representar el proceso de cálculo ML/DNN como un grafo de cálculo
Realizar el juego de verificación de la segunda fase en el gráfico de cálculo, se puede utilizar CPU o GPU multihilo.
La primera fase convierte el cálculo de un solo nodo en instrucciones de VM
El diseño en múltiples etapas mejora significativamente el rendimiento, con una aceleración de cálculo que puede alcanzar α veces. Al mismo tiempo, el tamaño del árbol de Merkle se reduce de O(mn) a O(m+n), mejorando la eficiencia y la escalabilidad del sistema.
Consistencia y determinación
Para garantizar la coherencia de los resultados de ML, OPML ha utilizado dos métodos:
Algoritmo de punto fijo ( técnica de cuantización ): utilizar precisión fija en lugar de números de punto flotante
Biblioteca de punto flotante basada en software: mantener la consistencia funcional en múltiples plataformas
Estas tecnologías ayudan a superar los desafíos que presentan las variables de punto flotante y las diferencias de plataforma, mejorando la integridad y la fiabilidad del cálculo de OPML.
El marco OPML actual se centra principalmente en la inferencia de modelos ML, pero también admite el proceso de entrenamiento, siendo una solución de aprendizaje automático general. El proyecto OPML aún está en desarrollo, y se invita a las personas interesadas a contribuir.
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
12 me gusta
Recompensa
12
7
Compartir
Comentar
0/400
CryptoNomics
· 07-25 15:52
*ajusta las gafas* fascinante cómo ignoran completamente las implicaciones del equilibrio de Nash... la correlación entre los nodos de validación sugeriría p(fallo) > 0.372
Ver originalesResponder0
LiquidityWitch
· 07-25 15:08
Las PC comunes de familias con recursos limitados finalmente han visto su primavera.
Ver originalesResponder0
DegenWhisperer
· 07-25 14:41
¡Impresionante! ¿Se pueden manejar grandes modelos sin GPU?
Ver originalesResponder0
NotFinancialAdvice
· 07-22 17:20
¡Vaya, este costo es demasiado absurdo!
Ver originalesResponder0
SleepTrader
· 07-22 17:17
No puedo evitar decir que es muy impresionante.
Ver originalesResponder0
BearMarketBarber
· 07-22 17:07
no sé si se puede correr o no
Ver originalesResponder0
GateUser-00be86fc
· 07-22 17:06
No es de extrañar que sea innovador. Esta tecnología es demasiado avanzada.
OPML: Nueva tecnología de aprendizaje automático optimista en la Cadena de bloques
OPML: Aprendizaje automático basado en métodos optimistas
OPML(El aprendizaje automático optimista) es una nueva tecnología que utiliza métodos optimistas para realizar inferencia y entrenamiento/ajuste fino de modelos de IA en sistemas de blockchain. En comparación con ZKML, OPML puede proporcionar servicios de aprendizaje automático a un costo más bajo y con mayor eficiencia. OPML tiene un umbral bajo, incluso una PC normal sin GPU puede ejecutar grandes modelos de lenguaje, incluyendo 7B-LLaMA( aproximadamente 26GB).
OPML utiliza un mecanismo de juego de verificación para asegurar la descentralización y el consenso verificable de los servicios de aprendizaje automático. Su proceso incluye:
Juego de verificación de una sola etapa
El principio de funcionamiento del OPML de una sola etapa es similar al cálculo de la delegación (RDoC). Contiene los siguientes elementos clave:
El protocolo de partición se utiliza para localizar pasos en disputa y enviarlos al contrato de arbitraje en la cadena. Al probar un modelo básico de IA ( clasificación DNN MNIST ) en PC, el tiempo de inferencia en la VM fue de 2 segundos, y todo el proceso de desafío se pudo completar en un entorno de prueba de Ethereum local en 2 minutos.
Juego de verificación de múltiples etapas
Para superar las limitaciones del protocolo de una sola etapa y mejorar el rendimiento, OPML ha propuesto una extensión del protocolo de múltiples etapas. Este enfoque solo realiza cálculos en la VM en la última etapa, mientras que las otras etapas se pueden ejecutar de manera flexible, aprovechando así la capacidad de la CPU, GPU, TPU e incluso el procesamiento en paralelo.
El principio de funcionamiento del OPML de múltiples etapas:
El diseño en múltiples etapas mejora significativamente el rendimiento, con una aceleración de cálculo que puede alcanzar α veces. Al mismo tiempo, el tamaño del árbol de Merkle se reduce de O(mn) a O(m+n), mejorando la eficiencia y la escalabilidad del sistema.
Consistencia y determinación
Para garantizar la coherencia de los resultados de ML, OPML ha utilizado dos métodos:
Estas tecnologías ayudan a superar los desafíos que presentan las variables de punto flotante y las diferencias de plataforma, mejorando la integridad y la fiabilidad del cálculo de OPML.
El marco OPML actual se centra principalmente en la inferencia de modelos ML, pero también admite el proceso de entrenamiento, siendo una solución de aprendizaje automático general. El proyecto OPML aún está en desarrollo, y se invita a las personas interesadas a contribuir.