共计 337 个字符,预计需要花费 1 分钟才能阅读完成。
近期领导找聊天,我们内部在做一个 LLM 相关的项目,想让我过去做,说是可以提供一些显卡和一些钱组工作站在家里整这件事(家宽比较方便),估计是 4090 这个级别的卡外加几千块钱,每月补贴电费网费这样
背景
- 几个人的小作坊公司
- 我是数据工程师,比较偏后端那种
- 我对训练模型了解不多,只是自己用 langchain 做过小 demo,私有部署过开源模型
可能用的技术
- 这个项目是一个自动化的任务,会大量调用 LLM 获得一些结果,后续可能会集成 fastapi 做成服务这样
- 我看了一些博文,我需要做的部分大概是 RAG + 指令式微调 + 单任务微调(我不太懂,可能不准确)
我的想法
这算一个研究中的项目,主要是利用 LLM 做一个工程上的东西,我还比较感兴趣,而且老板说每周大概可以抽一天时间居家办公做这件事,感觉也挺不错的
正文完