我用 3.5 天的时间和 Claude 3.5 联手开发了一个 Mac App,利用本地运行的 Llama 3.1 提供实时的 AI 反应。在 M 系列芯片的 Mac 上可用。免费,完全本地,飞快。

13次阅读

共计 374 个字符,预计需要花费 1 分钟才能阅读完成。

朋友们好,好久不见。

前几天 Llama 3.1 发布,我体验之后感到——

时代的变化突然降临了,现在每个人都有几乎免费而且无限量的机器智能。

问题在于缺少应用。

我要做一个 大量使用本地 AI 的应用!

整个开发过程和 Claude 3.5 合作完成,3.5 天之后,Snapbox 横空出事:

我用 3.5 天的时间和 Claude 3.5 联手开发了一个 Mac App,利用本地运行的 Llama 3.1 提供实时的 AI 反应。在 M 系列芯片的 Mac 上可用。免费,完全本地,飞快。

下载链接:

https://snapbox.app

Snapbox 最基本的用法是在任意 App 中选中一段内容,按 Alt + Space 快捷键启动 Snapbox,立即获得来自本地 AI 的回应。

修改会自动触发重新请求,因此叫 Live Reaction.

更高级的用法是可以利用预设的 Prompt,选中内容之后直接套入特定的 Prompt,可以实现翻译、查词、找 bug、改写等各种业务。

一切都在本地完成,完全免费,速度飞快。

推荐 Llama 3.1 8B 和 Gemma 2 2B 这两个模型,16G 内存选前者,8G 选后者。

正文完
 0