OPML:优化机器学习技术在区块链系统中的应用

OPML(Optimistic机器学习)是一种新型技术,可以在区块链系统上进行AI模型推理和训练/微调。与ZKML相比,OPML具有更低的成本和更高的效率。它的参与门槛很低,普通PC无需GPU即可运行大型语言模型,如26GB的7B-LLaMA。

OPML采用验证游戏机制来确保ML服务的去中心化和可验证性。其工作流程如下:

1. 请求者发起ML服务任务
2. 服务器完成任务并将结果提交到链上
3. 验证者检查结果,如有异议则启动验证游戏
4. 在智能合约上进行最终仲裁

单阶段验证游戏

单阶段验证游戏采用精确定位协议,类似于计算委托(RDoC)。它包含以下关键要素:

• 构建用于链下执行和链上仲裁的虚拟机(VM)
• 实现专用轻量级DNN库,提高AI模型推理效率
• 使用交叉编译技术将AI推理代码编译为VM指令
• 用默克尔树管理VM镜像,仅上传根哈希至链上

测试表明,在普通PC上可在2秒内完成基本AI模型推理,整个挑战过程可在2分钟内完成。

多阶段验证游戏

为克服单阶段协议的局限性,我们提出了多阶段验证游戏:

• 只在最后阶段在VM中计算,其他阶段可在本地环境执行
• 充分利用CPU、GPU、TPU等硬件加速能力
• 大幅提升执行性能,接近本地环境水平

以两阶段OPML为例:

• 第二阶段:在计算图上进行验证,可使用GPU加速
• 第一阶段:将单个节点计算转换为VM指令执行

多阶段设计显著提高了性能:

• 计算速度提升α倍(α为GPU加速比)
• Merkle树大小从O(mn)减小到O(m+n)

一致性与确定性

为确保ML结果的一致性,OPML采用:

1. 定点算法(量化技术):使用固定精度表示,减少浮点误差
2. 软件浮点库:跨平台保持一致性

这些方法有效解决了不同硬件和软件环境下的浮点计算差异问题。

总的来说,OPML为区块链上的AI应用提供了一种高效、低成本的解决方案。它不仅支持模型推理,也可用于模型训练,是一个通用的机器学习框架。