ROC-RK3576-PC
低功耗大模型主板
采用 Rockchip 八核 64 位 AIOT 处理器 RK3576，采用先进制程工艺，大小核构架（4×A72 + 4×A53），高性能低功耗，内置 ARM Mali G52 MC3 GPU，集成 6 TOPS算力 NPU，支持 Transformer 架构下超大规模参数模型的私有化部署，支持多种深度学习框架、自定义算子开发、Docker 容器化管理技术。配置外部看门狗，具备工业级稳定性，广泛适用于AI本地部署的应用场景。
ROC-RK3588-RT
八核8K人工智能多网口开源主板
采用Rockchip RK3588旗舰级八核64位处理器，主频高达2.4GHz，6 TOPS算力NPU，可配32GB大内存。支持8K视频编解码；支持2.5G和双千兆以太网、M.2接口WiFi、8K HDMI、8K DP输出。拥有丰富的扩展接口（M.2 SATA、PCIe、USB3.0/2.0），支持多种操作系统。
Firefly推出大语言模型本地部署的产品：AIBOX-1684X，目前已适配主流的大语言模型，包括 ChatGLM3-6B，以下是 ChatGLM3 在 AIBOX-1684X 上的实机演示：
ChatGLM3-6B 采用更多元的训练数据和策略，在不同角度的数据集，采用了全新设计的 Prompt 格式，支持工具调用 (Function Call) 、代码执行 (Code Interpreter) 和 Agent 任务等复杂场景。
性能实测结果
更强大的基础模型
ChatGLM3-6B (Base) 在选取的8个中英文典型数据集中进行性能测试：
- 更强大的基础模型
除了对话模型ChatGLM3-6B外，还开源了基础模型ChatGLM3-6B-Base、长文本对话模型ChatGLM3-6B-32K。以下是ChatGLM3-6B-32K在LongBench评测集上对模型进行测试：
Firefly开源品牌
Firefly是天启科技于2014年创立的开源团队，致力于人工智能、智能硬件、嵌入式开发、系统开发、应用程序开发等研发，拥有开源系列产品、开源社区与网上商城。
专注于TV、互动媒体、机顶盒、网络数字标牌等智能媒体产品的研发，为客户提供易于部署、快速实施的整体解决方案。
我们拥有硬件设计、嵌入式开发、应用设计、量产的一站式创新研产能力。
把大模型“装”进小盒子
——AIBOX-1684X 大模型人工智能盒子
算力高达32 TOPS！支持主流大模型私有化部署，
把AI的能力私有化，一个盒子就能满足个性化的AI部署！
算法丰富，全面的人工智能私有化部署。
搭载SOPHON算能AI处理器BM1684X，拥有八核ARM Cortex-A53，主频2.3GHz，采用12nm工艺制程；拥有高达32Tops（INT8）算力，
或16TFLOPS（FP16/BF16）算力、或2Tops（FP32）高精度算力，支持主流编程框架，可广泛应用于云端及边缘应用的人工智能推理。