资讯
近日消息，Mistral 公司发布了其最新的两款AI模型——Ministral 3B 和 Ministral 8B。这两款模型专为提高笔记本电脑和智能手机等设备的本地化AI体验而设计，无需依赖云服务器即可运行。
Mistral 官方宣称它们是“世界上最好的边缘计算模型”，这一声明反映了该公司在推动边缘计算技术进步方面所取得的重大进展。通过这些创新，Mistral 旨在让更多的用户能够享受到高效且便捷的人工智能服务。
Mistral 公司表示越来越多的企业希望能够在个人设备上运行 AI 模型，一方面确保安全的数据处理，另一方面也提高响应速度。
上述两个模型可在没有互联网接入的情况下，执行翻译服务、本地分析和机器人等多项服务。
这两个 AI 模型的上下文窗口均为 128K，相当于一次可以处理 50 页文档。
Ministral 8B 的价格为每百万个 tokens 售价 0.1 美元，而 3B 版本则为 0.04 美元，适合小规模操作或初创开发者。Ministral 8B 采用了特殊的交错滑动窗口注意力机制，这种设计可以在推理时更快且节省内存。
文明上网，理性发言，共同做网络文明传播者