近日,Thinking Machines Lab 将其新模型 Inkling 2 Mini 的权重对外开放,许可为 Apache 2.0。该模型总参数 26B,属于多模态模型,可处理文本和图像输入,上下文窗口最高达到 100 万 token。开发者可以下载部署,也能借助 Tinker 做推理和微调。
Inkling 2 Mini 的架构重点在于循环 Transformer。它共有 24 层,但并非每一层只运行一次:最前和最后 6 层各执行一次,中间 12 层会循环三次。这样一来,模型存储 24 层权重,却能为每个 token 完成 48 次层计算。后续循环还会接收上一轮传递的信息。
![]()
为了控制推理成本,模型采用混合专家架构,每个 token 只激活部分专家。其激活参数约为 3.4B,把循环中的重复计算计入后,有效激活量约为 5.4B。官方还同步发布了研究版本 TML-d24-varloop-research,允许在推理时调整循环次数,便于比较同一组权重在不同计算量下的表现。
部署方面,Inkling 2 Mini 的专家层主要采用 NVFP4 低精度格式,最后 4 层使用 MXFP8。训练和部署保持相同精度,减少了转换环节。发布检查点约 20GB,官方称至少 32GB 内存的 Apple 芯片设备可以运行,其他 GPU 平台建议提供至少 32GB 显存。Ollama、vLLM、SGLang 等工具已支持本地推理。
TML 的演示把运行环境放到了离线笔记本上。在一台配备 48GB 内存的 M5 Pro 版 MacBook Pro 上,研究人员断开网络,让模型在几分钟内生成一个可玩的飞行模拟器。另一个项目是像素小镇 Thinkyville,同一模型在一台离线 MacBook 上驱动 20 位村民,让他们安排生活、闲聊、参加烘焙比赛,并回复门上的便条。
社区也很快给出反馈。有用户把模型接入 DeepSeek Harness,获得较快的速度;有人让它游玩电子游戏,并观察到它可以反复游玩、改进策略和学习速通;还有用户用它生成动画 MV。
评测数据显示,Inkling 2 Mini 的优势集中在智能体编程、搜索和工具使用。它在 DeepSWE v1.1 上的任务解决率为 48.2%,高于对比的 Qwen3.8-27B 的 42.2%;在 SWE-bench Verified 上,两者分别为 79.2% 和 77.8%。
不过,TML 也列出了模型的边界。Inkling 2 Mini 在多轮对话和多重约束指令上仍有短板,复杂推理表现与更大模型存在差距;增加循环次数,也不会直接增加权重中储存的事实知识。