首页 > 智能数码 > 工具软件 >甘肃优秀的EC-A1688JD4可适用于云终端

甘肃优秀的EC-A1688JD4可适用于云终端

作者:19617g 时间:2024-06-27 15:48:16

ROC-RK3576-PC

低功耗大模型主板

采用 Rockchip 八核 64 位 AIOT 处理器 RK3576,采用先进制程工艺,大小核构架(4×A72 + 4×A53),高性能低功耗,内置 ARM Mali G52 MC3 GPU,集成 6 TOPS算力 NPU,支持 Transformer 架构下超大规模参数模型的私有化部署,支持多种深度学习框架、自定义算子开发、Docker 容器化管理技术。配置外部看门狗,具备工业级稳定性,广泛适用于AI本地部署的应用场景。

ROC-RK3588-RT

八核8K人工智能多网口开源主板

采用Rockchip RK3588旗舰级八核64位处理器,主频高达2.4GHz,6 TOPS算力NPU,可配32GB大内存。支持8K视频编解码;支持2.5G和双千兆以太网、M.2接口WiFi、8K HDMI、8K DP输出。拥有丰富的扩展接口(M.2 SATA、PCIe、USB3.0/2.0),支持多种操作系统。

Firefly推出大语言模型本地部署的产品:AIBOX-1684X,目前已适配主流的大语言模型,包括 ChatGLM3-6B,以下是 ChatGLM3 在 AIBOX-1684X 上的实机演示:

ChatGLM3-6B 采用更多元的训练数据和策略,在不同角度的数据集,采用了全新设计的 Prompt 格式,支持工具调用 (Function Call) 、代码执行 (Code Interpreter) 和 Agent 任务等复杂场景。

性能实测结果

更强大的基础模型

ChatGLM3-6B (Base) 在选取的8个中英文典型数据集中进行性能测试:


  • 更强大的基础模型


除了对话模型ChatGLM3-6B外,还开源了基础模型ChatGLM3-6B-Base、长文本对话模型ChatGLM3-6B-32K。以下是ChatGLM3-6B-32K在LongBench评测集上对模型进行测试:



Firefly开源品牌

Firefly是天启科技于2014年创立的开源团队,致力于人工智能、智能硬件、嵌入式开发、系统开发、应用程序开发等研发,拥有开源系列产品、开源社区与网上商城。

专注于TV、互动媒体、机顶盒、网络数字标牌等智能媒体产品的研发,为客户提供易于部署、快速实施的整体解决方案。

我们拥有硬件设计、嵌入式开发、应用设计、量产的一站式创新研产能力。

Core-3588L 8K人工智能核心板

采用Rockchip新旗舰级RK3588系列处理器,八核64位ARM架构,可配32GB大内存;支持8K视频编解码;采用了LGA封装接口,传输能力更强;拥有丰富的接口,支持多硬盘、千兆网、WiFi6、5G/4G扩展和多种视频输入输出;支持多种操作系统;可适用于ARMPC、边缘计算、云终端、云服务器、工业控制、智能汽车等领域。

采用SOPHON算能八核AI处理器BM1688,INT8算力高达16 TOPS,支持16路H.265/H.264 1080p@30fps视频解码,支持主流编程框架,提供一站式深度学习开发工具包 SOPHON SDK,工具链完备易用度高,算法轻松部署,算法迁移代价小。适用于智算服务器、边缘智算盒、工控机、智能网络摄像机、AIOT、智能安防等类型产品和领域,为各行业进行AI赋能,算法丰富,全面的人工智能私有化部署