如何组装一台能跑大模型的机器。

23次阅读

共计 269 个字符,预计需要花费 1 分钟才能阅读完成。

我想组装一台能跑大模型的电脑,但是我个人在以前只有配置个人电脑的经验。对 AI 这一方面的配置不太了解,所以来请教一下各位。

需求:

1、主要想运行 text-generation-webui 和 stable-diffusion-webui 两个可以不需要并行运行。

2、希望可以运行 llama 2 的 70B/13B 版本。

至于要配的标准的话,可以是类似我们家用电脑的机箱形式,也可以是架在机架上的服务器。

没有费用上限,也不需要太离谱的配置。

因为是尝试搭建所以费用暂时最好在 2w 左右,当然越低越好,后期会进行升级配置。

暂时能承受住同时 10 个人左右使用就可以了。

正文完
 0