Agent 的工作方式是持续循环的:任务触发、思考推理、执行、等待、再触发。前述配置的 Windows PC 会跑到 300-400W 左右(本地部署),散热噪音和电费都不是小数目。
/data/tombstones :: crash minidumps,推荐阅读PDF资料获取更多信息
,更多细节参见同城约会
中国模型普遍采用混合专家架构,这一技术路线重构了算力消耗逻辑。一个几千亿参数的模型,处理简单问题时只激活其中一小部分“专家网络”,这种“按需激活”的模式,省电省算力。,这一点在爱思助手中也有详细论述
Фото: Ammar Awad / Reuters