Firefly推出大语言模型本地部署的产品：AIBOX-1684X，目前已适配主流的大语言模型，包括 ChatGLM3-6B，以下是 ChatGLM3 在 AIBOX-1684X 上的实机演示：
ChatGLM3-6B 采用更多元的训练数据和策略，在不同角度的数据集，采用了全新设计的 Prompt 格式，支持工具调用 (Function Call) 、代码执行 (Code Interpreter) 和 Agent 任务等复杂场景。
性能实测结果
更强大的基础模型
ChatGLM3-6B (Base) 在选取的8个中英文典型数据集中进行性能测试：
- 更强大的基础模型
除了对话模型ChatGLM3-6B外，还开源了基础模型ChatGLM3-6B-Base、长文本对话模型ChatGLM3-6B-32K。以下是ChatGLM3-6B-32K在LongBench评测集上对模型进行测试：
Firefly开源品牌
Firefly是天启科技于2014年创立的开源团队，致力于人工智能、智能硬件、嵌入式开发、系统开发、应用程序开发等研发，拥有开源系列产品、开源社区与网上商城。
专注于TV、互动媒体、机顶盒、网络数字标牌等智能媒体产品的研发，为客户提供易于部署、快速实施的整体解决方案。
我们拥有硬件设计、嵌入式开发、应用设计、量产的一站式创新研产能力。
采用SOPHON算能八核AI处理器BM1688，INT8算力高达16 TOPS，支持16路H.265/H.264 1080p@30fps视频解码，支持主流编程框架，提供一站式深度学习开发工具包 SOPHON SDK，工具链完备易用度高，算法轻松部署，算法迁移代价小。适用于智算服务器、边缘智算盒、工控机、智能网络摄像机、AIOT、智能安防等类型产品和领域，为各行业进行AI赋能，算法丰富，全面的人工智能私有化部署