今天,我們預覽了在 Apple Silicon 上執行 Ollama 的最快方式,使用 Apple 的機器學習框架 MLX 提供動力。
只需一個 Ollama 命令,即可在兩分鐘內完成 OpenClaw 的設定。
Ollama 現在在 Claude Code 中支援子代理和網頁搜尋。
OpenClaw 是一款個人 AI 助手,可將您的聊天應用與本地 AI 編碼代理相連,全部執行在您的裝置上。
ollama launch 是一條新指令,可設定並執行諸如 Claude Code、OpenCode、Codex 等編碼工具,支援本地或雲端模型。無需環境變數或配置檔案。
在 macOS 上透過 Ollama 本地生成影像。Windows 與 Linux 支援即將推出。
Ollama 現已相容 Anthropic Messages API,使得可以在開放模型上使用 Claude Code 等工具。
透過 Ollama,OpenAI 的 Codex CLI 可使用開放模型。Codex 能讀取、修改並執行工作目錄中的程式碼,支援 gpt-oss:20b、gpt-oss:120b 及其他開源權重模型。
Ollama 與 OpenAI 及 ROOST(Robust Open Online Safety Tools)合作,將最新的 gpt-oss-safeguard 推理模型引入使用者,用於安全分類任務。gpt-oss-safeguard 模型提供 20B 與 120B 兩種規模,採用 Apache 2.0 許可。
MiniMax M2 已在 Ollama 雲端上線,專為編碼和代理工作流打造。
我們在釋出日韌體和更新後的 Ollama 版本上進行效能測試,以評估 Ollama 的表現。
GLM-4.6 與 Qwen3-coder-480B 已在 Ollama 雲服務上提供,並可輕鬆整合到您熟悉的工具中。Qwen3-Coder-30B 已更新,可在 Ollama 新引擎中實現更快、更可靠的工具呼叫。
Ollama 現已支援阿里巴巴的 Qwen3-VL。
最新的 NVIDIA DGX Spark 正式釋出!Ollama 與 NVIDIA 合作,確保其開箱即用時快速高效。
全新網頁搜尋 API 現已在 Ollama 中提供。Ollama 為個人使用者提供慷慨的免費搜尋額度,企業可透過 Ollama 雲獲得更高的速率限制。
Ollama 現在採用顯著改進的模型排程系統,降低因記憶體不足導致的崩潰,最大化 GPU 利用率和效能,尤其在多 GPU 系統上表現更佳。
雲模型已進入預覽階段,讓您使用資料中心級硬體執行更大模型,同時繼續使用本地工具執行那些在個人電腦上放不下的模型。
Ollama 與 OpenAI 合作,將 gpt-oss 帶入 Ollama 生態及其社群。
Ollama 全新應用已在 macOS 與 Windows 上推出。
Secure Minions 是斯坦福 Hazy Research 實驗室研發的安全協議,實現加密的本地‑遠端通訊。
Ollama 現在能夠開啟或關閉思考模式,讓使用者根據不同應用場景靈活選擇模型的思考行為。
Ollama 現已支援帶工具呼叫的流式響應,使所有聊天應用能夠即時流式內容並呼叫工具。
Ollama 現已使用新引擎支援多模態模型。
斯坦福 Hazy Research 實驗室的 Avanika Narayan、Dan Biderman、Sabri Eyuboglu 與 Christopher Ré 以及 Avner May、Scott Linderman、James Zou 共同研發了一種方法,將大量 LLM 工作負載轉移至消費者裝置——讓小型本地模型(如在 Ollama 上執行的 Llama 3.2)與雲端大型模型(如 GPT‑4o)協同工作。
Ollama 現已支援結構化輸出,使模型的輸出能夠受限於 JSON Schema 定義的特定格式。Ollama 的 Python 與 JavaScript 庫已更新以支援結構化輸出。
使用 Ollama Python 庫 0.4 版,函式現在可以作為工具提供。庫已全面支援型別提示,並新增示例。
Llama 3.2 Vision 11B 與 90B 模型已在 Ollama 中上線。
Ollama 與 IBM 合作,將 Granite 3.0 模型引入 Ollama。
Ollama 與 Meta 合作,將 Llama 3.2 引入 Ollama。
Bespoke‑Minicheck 是 Bespoke Labs 開發的全新事實性檢查模型,現已在 Ollama 中提供,可對其他模型生成的回覆進行事實校驗,以檢測並降低幻覺。
Ollama 現已支援 Llama 3.1 等流行模型的工具呼叫,使模型能夠基於已知工具回答提示,從而完成更復雜的任務或與外部世界互動。
Gemma 2 已在 Ollama 中提供,分為 2B、9B 與 27B 三個規模。
Continue 讓您能夠在 Visual Studio Code 與 JetBrains 中輕鬆建立屬於自己的編碼助理,使用開源 LLM。
在 Google I/O 2024 上,Google 宣佈在 Firebase Genkit(全新開源框架)中支援 Ollama,幫助開發者構建、部署並監控生產級 AI 應用。
相較於 Llama 2,Llama 3 的審查力度明顯降低。Meta 大幅降低了誤拒率,Llama 3 的拒絕率僅為 Llama 2 的三分之一以下。
Llama 3 已在 Ollama 上可用,作為 Meta 最先進的大語言模型的下一代版本,是目前公開可得的最強大 LLM。
Ollama 已提供嵌入模型,幫助輕鬆生成向量嵌入,用於檢索和檢索增強生成(RAG)等場景。
Ollama 在 Windows 與 Linux 上的預覽版現已支援 AMD 顯示卡。所有 Ollama 功能現在都可以透過 AMD 顯示卡加速。
Ollama 已在 Windows 上推出預覽版,實現原生的模型拉取、執行與建立。Windows 版 Ollama 包含內建 GPU 加速、完整模型庫訪問,並提供相容 OpenAI 的 Ollama API。
Ollama 已初步相容 OpenAI Chat Completions API,使得本地模型可透過 Ollama 使用現有針對 OpenAI 構建的工具。
全新視覺模型已上線:LLaVA 1.6,提供 7B、13B 與 34B 引數規模,支援更高解析度影像、改進的文字識別和邏輯推理。
Ollama Python 與 JavaScript 庫的首個版本已釋出,只需幾行程式碼即可將您的 Python、JavaScript 或 TypeScript 應用與 Ollama 整合。兩套庫完整實現了 Ollama REST API,設計易於上手,併兼容新舊版本的 Ollama。
復現最流行的 LangChain 用例之一——本地執行的開源軟體實現的檢索增強生成(RAG),讓您能夠“與文件對話”。
Ollama 現可在 Mac 上透過 Docker Desktop 執行,也可在 Linux 的 Docker 容器中使用 GPU 加速執行。
本文演示如何在 Obsidian(或其他筆記工具)中透過 Ollama 引入本地 LLM。
本指南闡述了為 Code Llama 及其各種變體組織提示的不同方式,包括指令、程式碼補全和中間填充(FIM)。
Meta 的 Code Llama 現已在 Ollama 上可供嘗試。
本文提供了未審查版 Llama 2 與審查版 Llama 2 的對比示例。