你是否曾想过让强大的开源大模型（LLM）更懂你的专业领域，或者更能模仿你的写作风格？微调（Fine-Tuning）就是实现这一目标的钥匙。过去，微调是资源雄厚的大公司的专利，动辄需要数十张GPU和复杂的分布式训练知识。 但现在，感谢 Ollama 和 Python 生态的强大 ...

IT之家8 月 27 日消息，网络安全公司 ESET 昨日（8 月 26 日）发布博文，报告发现“全球首个 AI 勒索软件”，并将其命名为 PromptLock，调用 gpt-oss:20b 模型在受感染设备本地生成恶意 Lua 代码，可跨 Windows、Linux 和 macOS 系统搜索、窃取并加密文件。 IT之家援引博文 ...

通义千问3（Qwen3）是阿里巴巴通义千问团队发布的最新开源大语言模型，它具备强大的性能、高度的模块化特性以及出色的工具使用能力。 本文教你如何通过Ollama在本地运行通义千问3，并启用模型上下文协议（MCP），以使用代码解释器、数据获取、时间查询等工具 ...

IT之家 4 月 30 日消息，在首届 LlamaCon 大会上，Meta 公司在推出独立 AI 应用之外，还发布了 Llama API，目前以免费预览形式向开发者开放。 IT之家援引博文，Llama API 支持开发者测试包括 Llama 4 Scout 和 Llama 4 Maverick 在内的最新模型，提供一键 API 密钥创建以及轻量级 ...

在不久前发布的《技术实战 | OK3588-C开发板上部署DeepSeek-R1大模型的完整指南》一文中，小编为大家介绍了DeepSeek-R1在飞凌嵌入式OK3588-C开发板上的移植部署、效果展示以及性能评测，本篇文章不仅将继续为大家带来关于DeepSeek-R1的干货知识，还会深入探讨多种平台 ...

Manus通过混合模型架构、多模型协同以及持续优化与更新的方式，有效地连接大模型，实现了任务自主规划、思考和完成的能力。Manus连接大模型的过程涉及以下几个关键步骤： 1、模型选择与集成 选择合适的大模型，如Claude和阿里千问等，根据任务需求和能力 ...

在本文中，我们将简单介绍如何在 Python 中使用 Ollama API。无论你是想进行简单的聊天对话、使用流式响应处理大数据、还是希望在本地进行模型的创建、复制、删除等操作，本文都可以为你提供指导。此外，我们还展示了如何使用自定义客户端和异步编程来优化 ...

VLLM是一款经过优化的推理引擎，在令牌生成速度和内存管理效率上表现出色，是大规模AI应用的理想之选。Ollama则是一个轻量级、易上手的框架，让在本地电脑上运行开源大语言模型变得更加简单。 那么，这两个框架该选哪一个呢？接下来，我们会从性能、易用 ...