10分钟内在没有互联网的情况下启动本地AI代理
在LM Studio中运行免费模型,具备代理功能(工具调用、文件处理)的本地机器
- 1.从官方网站下载并安装LM Studio(Windows、Mac或Linux)。运行安装程序 - 需要1-2分钟。
应用完全免费。选择适合您操作系统的版本。Mac会自动为Apple Silicon选择MLX加速。
LM Studio ↗ - 2.打开LM Studio并进入Discover选项卡(搜索图标)。查找Phi-4-mini Q4_K_M模型 - 占用约3 GB内存,即使对于弱显卡也适用。
Phi-4-mini是内存受限的本地代理的最佳选择。开箱即支持函数和工具。旁边的绿色火箭图标表示该模型适合您的硬件。
LM Studio ↗ - 3.点击Download并等待模型下载(正常网络下需要3-4分钟)。状态栏会显示百分比进度。
模型只需加载一次。之后它将保留在您的磁盘上并离线工作,无需互联网,无需向任何地方发送数据。
LM Studio ↗ - 4.进入Chat选项卡,从下拉菜单中选择Phi-4-mini,然后点击Load Model。等待模型加载到内存(10-60秒)。
模型下载完成后,底部输入框会变为可用。这表示代理已准备好使用。
LM Studio ↗ - 5.打开Developer选项卡,找到Agent Mode开关并启用它。现在模型可以调用工具并逐步执行任务。
Agent Mode让本地模型能够调用函数、处理文件、执行代码 - 所有操作都不需要云和API。
LM Studio ↗ - 6.返回Chat并为代理输入任务。例如:「分析这段文本。其中的要点是什么?」或「这个代理可以调用哪些函数?」
确保左侧界面中的Mode设置为Chat或Agent(在窗口顶部可见)。按Enter或点击Send按钮。
LM Studio ↗提示词Analyze this content and list the key points in a structured way. [插入您的文本或任务描述]
这个提示词的作用这是第一次测试的基础提示。将[插入您的文本...]替换为您的文本或任务。由于Agent Mode,Phi-4-mini会自动将复杂任务分解为多个步骤并依次执行。 - 7.查看聊天中的回答。模型将逐步显示解决过程:它选择了哪些工具、处理了哪些数据。所有内容都在您的本地计算机上运行。
代理的第一个回答可能需要30-90秒,具体取决于任务大小和您的硬件。这是正常的。后续回答会更快,因为模型已在内存中。
LM Studio ↗
💰 跟着做需要花多少钱价格截至 2026-07
- 免费Ollama完全免费,模型下载后在本地运行,无需互联网。
- 免费DeepSeek R1 7B / Hermes 7B / Qwen 7B模型以开源许可证分发,下载免费,需要5-7 GB磁盘空间。
- 免费Python + requestsPython和requests库完全免费,提供开源代码。
试一试，做第一个打卡的人
为什么是今天
每周攻略发到邮箱
AI 服务变化很快 - 界面和免费额度可能与描述有所不同。