使用 Rust 构建 MLOps 解决方案
· 5 min read
关键术语
Rust
- Rust - 一种注重安全、速度和效率的现代系统编程语言。提供保证内存安全等高级功能。
- rustup- Rust 的工具链安装程序。可轻松安装编译器、软件包管理器 cargo 和其他 Rust 工具。
- Cargo- Rust 构建系统和软件包管理器。用于管理依赖关系和构建/编译 Rust 项目。
- Crates- 可在 crates.io 上共享的 Rust 代码包。相当于其他语言中的库或模块。
- rustfmt - Rust 格式化工具，用于根据指南自动格式化 Rust 源代码。确保风格一致。
- Clippy- Rust 内核工具，用于分析代码并检测潜在问题或改进。帮助编写更习惯的 Rust 代码。
- Makefile- 定义规则/命令的文件，用于自动构建和管理项目。允许工作流程标准化。
- Codespaces- 由 GitHub 托管的基于浏览器的开发环境。为提高 Rust 的生产力而预先配置。
- GitHub Copilot - AI 结对程序员工具，旨在实时建议代码补全和整个函数。支持 Rust。
MLOps
- Hugging Face- 专注于 NLP 和预训练转换器模型（如 BERT）的流行工具箱。已集成 Rust。
- ONNX- 实现框架互操作性的模型开放标准格式。允许模型移植。
- EFS- 亚马逊弹性文件系统，为 AWS 提供可扩展的云文件存储。 可挂载到 Lambda。
- RustBERT- Hugging Face 的 BERT 变换器模型的 Rust 实现和绑定。支持 NLP。
- PyTorch- 适用于 Python 的灵活机器学习框架，现在通过 Torch-rs 与 Rust 绑定。
- CUDA - 允许 GPU 加速的并行计算 API 模型。Rust 通过后端提供支持。
- Stable Diffusion- 使用深度学习的开源文本到图像生成器。可通过绑定从 Rust 访问。
- torch-rs- 为流行的 PyTorch 深度学习框架提供 Rust 绑定的原型，以支持 ML 解决方案。
- Distroless- 仅专注于应用程序运行时的容器模型，可减少攻击面和漏洞。安全性能良好。
Rust on Cloud
- Actix- 用于构建高性能网络服务（如微服务）的 Rust 网络框架。支持异步和可扩展性。
- App Engine - GCP 全面管理的无服务器应用程序平台。支持 Rust 作为自定义运行时选项。
- Cloud Run- GCP 产品，用于在完全托管的环境中运行无状态容器。与 Rust 工作流集成。
- Cargo Lambda- Rust crate，帮助打包、测试、部署和管理用 Rust 编写的 AWS Lambdas。
- Step Functions- 通过组合 Lambda 函数实现无服务器可视化工作流的 AWS 服务。可通过 Rust SDK 访问。
- Tokio- 用于 Rust 的异步运行时，通过利用线程将非阻塞 I/O 扩展到数以万计的任务。
- ECS- 亚马逊弹性容器服务，用于使用 AWS CLI 或 SDK（包括 Rust）启动 Docker 容器。
- ECR - 亚马逊弹性容器注册中心（Amazon Elastic Container Registry），提供与 Rust CI/CD 集成的可管理、可扩展的 Docker 容器存储。
- Copilot- CLI 工具，用于在 AWS 服务（如使用 Docker 的 ECS/ECR）上简化容器化应用程序的构建、发布和运行。
Zero shot classification rust hugging face
nogibjj/hello-rust-template-example
Lyrics analyzer
Building GPU Enabled Hugging Face Spanish to English Tranlator
PyTorch stable diffusion rust with GPU
nogibjj/rust-pytorch-gpu-template