CV工程师建站实战：环境配置到模型部署全链路

　　CV工程师建站实战那个活动，上线那十分钟我盯着后台看漏斗崩没崩，结果盯的是转化率那行数字——它根本没动。不是掉，是卡着，0.00%，灰的，跟上周五服务器挂了时候一样。王磊在隔壁工位猛敲键盘，三分钟内切了七次终端窗口，最后甩出一句“conda list都列不全”。我原以为环境配不齐顶多拖半天，结果光pip install opencv-python-headless就卡了四十二分钟，中间condaforge源连了三次又断，第四次连上直接报错checksum mismatch。饮水机在换桶，蓝塑料桶斜倚在墙边，水顺着管子滴到地胶上，嗒、嗒、嗒——比后台刷新间隔还准，每17秒一次。

　　群里一直在@人。“@所有人 请确认torch版本是否对齐”、“@张薇 你那边Dockerfile的CUDA runtime要不要再check下”，她回了个“刚重启Jupyter，kernel死了两次”，后头跟了个哭笑不得的表情包。我手机电量掉到13%，自动调了低功耗模式，连屏幕亮度都懒得手动拉——反正页面一刷新就是白屏重载。李工拿着一叠A4纸从会议室出来，纸上全是手写的PyTorch版本兼容矩阵，墨迹洇开了，最底下一行写着“1.12.1+cu113 ≠ 1.12.1+cu116”，旁边用红笔圈了三个问号。他边走边念叨“模型推理那块我昨天测过，warmup时间长了37ms，但你们谁真看过latency p99？”没人接话。会议室一直被占着，门缝底下透出PPT翻页激光笔的红点，一闪、一闪、一闪，像在打摩斯电码，但我没破译，也不想破译。

　　优胜劣汰？就那个量级。不是嘴上说说。去年11月份，前前后后搭了六套环境：两套本地虚拟机，三套K8s测试集群，一套纯裸金属——最后跑通的，是陈默自己在台式机上搭的conda+systemd服务，没用Docker，没走Ingress，就一个uvicorn绑8001端口，加了个nginx做反向代理。他说：“模型load时间快了2.1秒，冷启直接进500的请求少了六成。”我信。可产品非说要容器化，说“以后方便扩缩容”，我反问“现在日均PV才多少？”她说“战略预留”。我就笑笑。桌上那张手写的排期被茶水浸了，字迹糊成一团褐色，只看清“模型量化”四个字底下渗出一圈深色水痕，像没擦干的汗。

　　张薇下午三点给我发了个截图，showing inference latency on the /predict endpoint over last hour，曲线是平的，横线，0.00ms，整整58分钟。我回她：“是不是健康检查探针写错了？”她秒回：“不是probe，是整个接口返回空body，连HTTP status都404了。”我愣住。查日志才发现路径里漏了个v1，url是/api/predict，实际service暴露的是/api/v1/predict。改完上线，转化率跳到了1.2%。不多，但动了。这会儿王磊突然转过身来，“你知道为啥model.load()在Linux下比macOS慢400ms吗？”我没答。他自顾自讲起来，讲到mmap和page fault……我点头，眼睛还粘在后台实时数据上——那一行数字正往下掉，0.98%，0.83%，0.61%，然后停住。我原以为是AB分桶出问题，结果发现是短信渠道的push失败率超限，系统自动切走了流量。运营那边没同步，我也没追。

　　李工后来拿U盘拷走了一整套部署脚本，说要去帮运维组搞个CI流水线。我看见他U盘壳子上贴着小纸条，写着“勿格式化—含torch2.0+cudnn8.9适配验证日志”。我问他有没有留备份，他说“存在邮箱草稿箱里了，发了一半”。我说“草稿箱也丢过”。他耸肩，“那就再跑一遍呗，反正docker build缓存还在。”

文章配图，仅供参考

　　产品今天早上改需求了，说要把图像上传按钮换成拖拽区，还要加实时预览。设计给的demo里用了canvas drawImage，我扫了一眼就关了。没提性能风险，因为上周二他们刚上线过一个类似交互，JS堆内存峰值涨了380MB，导致安卓WebView直接OOM重启——那次我们拉了一小时会，结论是“用户设备太旧”。后来周报里写了“前端交互优化中”，括号里补了句“待资源排期”。我填完周报提交，顺手把浏览器标签页关了三个：一个是模型精度对比表（没更新），一个是GPU显存占用监控图（绿线静止），一个是钉钉群聊记录（最后一条是凌晨两点张薇发的“ckpt文件md5校验失败”）。

　　老板昨天问了一句：“CV建站这套东西，能不能沉淀成模板？”我回：“能，但下次还得重调一遍cuda-toolkit版本。”他没说话，点了根烟。窗外下雨了，玻璃上滑下来三道水痕，歪的，不平行。我摸了摸口袋，没烟，只有半包糖，薄荷味的，含了一颗。舌尖发凉。手机又震了一下，群消息，新@：“@所有人 落地页H5加载时间超过3s，影响首屏指标，麻烦前端今晚给个优化方案”。我没回。把糖纸揉成团，扔进桌角废纸篓，底下压着三张没拆封的打印纸——是活动页的旧版UI走查表，日期栏写着“11月7日”，铅笔写的，已经褪色。

　　先这么着吧。我把Nginx日志过滤脚本改了，加了个–grep “v1/predict”，再跑一遍看看失败率。要是还高，就切回本地socket通信，绕过HTTP层。反正去年11月份试过，可行。

（编辑：草根网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!