AI软件用多了有两个问题会自然浮出来。
第一个是谁好用。不同场景不同工具手感完全不一样,有的改一段文档你跟一句它跟一句,配合得像搭档。有的你说一句它跑完全流程,结果要么大差不差要么完全不是你想要的。还有的你每次开新对话都得从头讲一遍上下文,之前说的话全忘了。
第二个是成本。这个更现实。买API担心自己一不小心花光额度。买会员价格有点贵,感觉积分也不一定用得完。本地化部署免费且隐私安全也有保障。但是他们各自能用起来的前提不同。
由于我尝试过三条路径,我觉得各自都有利弊,下面简单分享一下,希望你结合自己的实际情况,选择适合自己的路径。
本地化部署模型,一次免费,门槛在搭建
先说说本地化部署。就是把大模型装到你自己电脑上,跑起来之后,你在本地用它,不连云端,也不用给任何人交钱。
听起来是不是很美?一次部署,终身免费。而且数据全在自己电脑上,隐私安全也有保障。
但这里有个前提,你的电脑得够劲。大模型不是普通软件,它吃显卡,吃内存,吃磁盘空间。能跑的模型参数越多,需要的配置越高。普通办公电脑拉不动大参数模型,能拉得动的电脑本身就不便宜。而且部署的过程也需要点技术基础,装环境、下模型、调参数,哪一步错了都跑不起来。
我自己试过。拿7b的小模型跑在我的集成显卡上,电脑立刻卡住,出东西也慢得要命,等了半天吐出来那点内容还不如我直接用网页版快。再让它修改,又是需要耐心的等待。
后面就放弃了。也考虑过换设备,不管是直接换一台配置高的机器,还是额外买一块能跑大模型的显卡,价格都不低。我又没有什么批量任务需要长时间持续跑,换算一下买软件会员的钱,买那么好的硬件占用更多的钱不说,放我手里没发挥出来它最大的功效也是浪费。所以这条路我自己是走不通的。
但有一说一,如果你的电脑配置本身就很高,那不妨试试。搭起来之后怎么用都不花钱,这种成本为零的快乐还是很值得体验的。
本地化办公软件,贵但省心
Trae和WorkBuddy是两种典型的本地化办公软件。
Trae的定位是半自动化,就是我之前在博客讲的,它集成了VS Code和Agent风格,同时支持你个人沉浸式、你为主AI为辅、AI为主你验收三种模式。
特别提醒!这里三种模式你是可以随时切换的。不是说你在一个任务里面只能用一种模式。所以它很灵活。
WorkBuddy的路子不一样,它主打动嘴。你跟它清楚,它就自己开始跑,你等结果就行。但风险也在这儿,它跑出来的东西你得自己验,验完不对再返工,有时候返工的时间比自己动手还长。鉴于大部分AI无法一稿即终稿,WorkBuddy稍显局促。
据我了解,我目前朋友都在用这两个软件,还有人在用百度搭子,这个我目前还没有试过。我也试过其他模型商提供的办公软件,但他们基本上都功能优先,就没再继续尝试了,而且都留着太占内存了,就全部删了。
Trae和WorkBuddy这两类软件日常轻量使用,不买会员问题也不大,每日签到积分是够用的。但稍微多用一点,特别是想尝试一下它自带的功能,就可能需要付费。当然,你可以自己填API key走按量计费。鉴于现在,模型价格会波动,一边工作一边担心自己的API额度是否够用,也是挺烦心的。因此,不管怎么算,相比自己折腾部署的时间和配置成本,直接买软件会员的确更省心。
网页版AI,便宜是便宜,别当办公工具用
网页版AI应该是大家最早接触AI的方式了。打开个网页,登录一下,直接就能聊。大部分都有免费额度,就算付费也不贵,相比本地部署和买软件来说,成本最低。
但我现在不建议你拿网页版当办公工具用。
为什么?因为网页版AI的本质是聊天机器人。每次开新对话,它之前跟你说过什么全忘了。你上周让它帮你写了一段Python脚本,这周想接着调,得把脚本内容、上次说了什么、这次想改什么,从头到尾再讲一遍。你昨天跟它讨论了一份文档的结构,今天想接着写,又得把背景、要求、之前定的提纲重新说一遍。
不能复用,是网页版AI最大的软肋。
它可以帮你查个资料、解释个概念、闲聊两句,这些场景够用。但要真拿它当生产力工具,每次都从零开始讲上下文,来回反复,效率上真的不划算。
还有一条折中路,组织部署的免费API
前面说的三条路,本质上都是你自己掏钱或者自己掏配置。但还有一种可能,就是你所在的组织已经帮你搭好了。
现在不少公司、学校、科研机构,已经在内网部署了大模型,给员工或者老师发免费的API账号。你拿到这个账号之后,可以直接在你安装的Trae和WorkBuddy里用,相当于免费用了模型服务和AI软件。当然,鉴于你没有付费,高峰时段可能会让用自有模型的朋友排队,还请你提前有个心里准备,
所以你可以去问一问,所在的组织有没有这方面的福利。有的话这是最便宜也最省心的选择了。
我的建议
说了这么多,最后说我自己现在是怎么用的。
大部分办公场景,我用Trae。原因很简单,AI一遍出不来的活太多了。改文档要来回调措辞,写代码要来回改bug,清数据要来回看结果。这种事半自动化盯着来最靠谱,错了立刻改,对了存成skill下次还能复用。
WorkBuddy我用的越来越少的。不知道是不是受模型选择影响,批量连续的任务,我发现越往后它说的话,我越来越看不懂。但不得不说,它总是会提供一些免费用某模型的服务,偶尔我会想着用用,都怪免费的诱惑。
网页版AI,我基本不拿它办公了。就当是个备用的聊天机器人,偶尔闲下来问个问题、聊两句,或者在本地工具都用不了的时候临时救个急。
至于本地化部署大模型,我基本上也不再考虑了,毕竟电脑实在是太卡了,而且我也没有长期使用的场景,何必让它在我的本地占内存呢。
看完之后,你想好你的选择了吗?