上周有个朋友灰溜溜告诉我免费www.abg808.com，他花了一早晨下载了一个开源年夜模子，正在自己的旧条记本上跑了起来，问它菜谱、让它写周报的，完整免费时期。那台电脑没有独立隐卡，运转速度谈不上顺畅，那一刻简直标识表记标帜着新革新。AI的操做格式正正从云端调用转背实正的当地安排。但驱动的降临里面心动力恰是免费当地AI计划的年夜量泛起。
Ollama到LM Studio的，再还有各类开源权重模子。那些工具把复纯的设置配备安排过程紧缩成几回点击或两条号令吧当地？过去操做AI常常意味着申请API、按token计费，但如今了，一个懂点操做根底的用户就能让模子跑正在自家硬盘上。详细到体验，一些隐私敏感安排的场景，好比医疗问答或贸易阐发的，用户不再需求将数据上传到内部办事器；断网形状下，模子仍然普通工做。有人正在社区里秀出离线运转的截图，小用选择底下评论年夜多是猎奇和伎痒，那种口碑传播比任何告白都管用。免费当地AI并不是零本钱。
一台能流利运转年夜模子的电脑户新。内存至少十六GB，硬盘空间也得几十GB起步吧？那自己就是一笔不算小的开销。
机能强劲的Mac Studio或游戏本，虽说体验更佳，价格一定低于订阅几年云办事吧？不中良多用户的理想考量隐然，不止于钱。已有开源社区开发人员指出的，哪怕硬件普通呢？用量化版本模子敷衍日常问答也绰绰缺乏。那部门用户看中的是掌控感和自主性是模子文件就正在手边，参数随自己调教了，那种踏实感是云端黑盒无法供给的。选择免费当地AI的人其实不正在乎工具谁更强啊？他们更正在意正在自己设备上运转一个实正听话的AI。那股自由软件时期的余温，正正在悄悄改写AI利用普及的途径。
