week7

本周拿出一些时间做老大的算法产品化平台

重点主线还是在解决商星的问题上

星期一

完成k3s集群容器销毁与资源释放时间小于5秒指标要求。

完成制作前端面板，现在在网页上即可通过交互式操作实现节点资源查看、任务指派（即容器的拉起）、任务销毁、本地镜像查看等操作。

星期二

创建带有本地部署大模型运行环境（vllm）的镜像，并推送到本地registry仓库中，可以随时通过yaml配置拉起调用

进行云部署平台本地运行大模型的选型，结合天数智芯提供的vllm版本以及mr100显存容量，选定Qwen3系列AWQ 4bit量化版本作为重点使用对象。先试用Qwen3-8B进行验证，后续更高性能可使用ELVISIO/Qwen3-30B-A3B-Instruct-2507-AWQ模型

星期三

下载Qwen3-8B AWQ模型，通过已创建的带有运行环境的镜像拉起并把模型文件挂载到容器中，实现大模型在国产化平台的k3s节点上的容器化部署和运行。

实现路由算法的演示服务开发、打包镜像、实现容器化部署，满足需求文档中的典型应用容器，便于后续测试可拉起容器数量指标要求

星期四

通过postman，使路由算法、大模型调用等容器的测试可以通过GUI操作，验证了上述路由算法、大模型容器的正确部署，能够集群外的局域网用户提供服务。