《大模型时代的基础架构》机器学习应用开发与运行平台

ltaodream

《大模型时代的基础架构》机器学习应用开发与运行平台 [复制链接]

 

此为本书的第十一章，总结来说，本章对涉及的内容只是概括了一下，更详细的需要个人去日常持续学习知识，积累工作经验

微服务平台

• 使用Kubernetes提供基本的服务注册发现和服务路由能力，通过Service实现
• 使用istio实现非侵入性、语言无关性的服务治理、链路追踪
• 容器平台调度
• 拆分微服务 《大模型时代的基础架构》第十一章 机器学习应用中，算法以外的问题

中间件服务

消息队列中间件

书中主要讲了Kafka、RabbitMq、RocketMq

应用场景

• 异步优化性能
• 系统间解耦
• 流量削峰

选型考察点

• 可靠性
• 业内常用MQ
• 集群化支持
• QPS--吞吐量
• 常用功能是否完备

对比

缓存中间件

Redis

详情见我的另外几篇文章，讲的比本书中此部分详细：

• 一文吃透Redis源码（数据结构篇）
• 一文吃透Redis源码（事件驱动框架篇）

数据库中间件

这节主要讲了数据库的ACID

• 原子性
• 一致性
• 隔离性
• 持久性