OPML: 基于乐观方法的机器学习

OPML(Optimistic机器学习)是一种新型技术，它利用乐观方法在区块链系统上进行AI模型推理和训练/微调。与ZKML相比，OPML能够以更低成本、更高效率提供机器学习服务。OPML的门槛较低，即使普通PC无需GPU也能运行包括7B-LLaMA(约26GB)在内的大型语言模型。

OPML采用验证游戏机制确保机器学习服务的去中心化和可验证共识。其流程包括:

1. 请求者发起ML服务任务
2. 服务器完成任务并将结果提交到链上
3. 验证者检查结果，如有异议则启动验证游戏
4. 最后在智能合约上进行单步仲裁

单阶段验证游戏

单阶段OPML的工作原理类似于计算委托(RDoC)。它包含以下关键要素:

• 用于链下执行和链上仲裁的虚拟机(VM)
• 为AI模型推理专门设计的轻量级DNN库
• 将AI模型推理代码编译为VM指令的交叉编译技术
• 用默克尔树管理的VM镜像,只上传默克尔根到链上

二分协议用于定位争议步骤,并将其发送到链上仲裁合约。在PC上测试一个基本AI模型(MNIST分类DNN)时,VM中推理用时2秒,整个挑战过程在本地以太坊测试环境中可在2分钟内完成。

多阶段验证游戏

为克服单阶段协议的局限性并提高性能,OPML提出了多阶段协议扩展。这种方法只在最后阶段在VM中计算,其他阶段可灵活执行,从而利用CPU、GPU、TPU甚至并行处理的能力。

多阶段OPML的工作原理:

• 将ML/DNN计算过程表示为计算图
• 在计算图上进行第二阶段验证游戏,可使用多线程CPU或GPU
• 第一阶段将单个节点计算转换为VM指令

多阶段设计显著提高了性能,计算加速可达α倍。同时Merkle树大小也从O(mn)减小到O(m+n),提升了系统效率和可扩展性。

一致性与确定性

为确保ML结果的一致性,OPML采用了两种方法:

1. 定点算法(量化技术):使用固定精度替代浮点数
2. 基于软件的浮点库:跨平台保持功能一致性

这些技术有助于克服浮点变量和平台差异带来的挑战,增强OPML计算的完整性和可靠性。

当前OPML框架主要聚焦于ML模型推理,但也支持训练过程,是一种通用的机器学习解决方案。OPML项目仍在开发中,欢迎感兴趣的人士参与贡献。