端侧 AI 与机器人技术雷达｜2026-07-31
今日必看 VisionPsy-Nano 把小型 VLM 的竞争压到视觉 token 预算 Tether AI Research 在 2026 年 7 月 29 日发布 VisionPsy-Nano 系列：VisionPsy-Nano-460M 主打质量，VisionPsy-Nano-460M-Flash 主打延迟，二
行业动态
文章列表
Jetson Orin Nano 使用 llama.cpp 跑大模型
安全说明：本文是本地 AI 推理开发笔记，只记录 Jetson Orin Nano 上的 CUDA 环境检查、llama.cpp 官方源码编译、开源 GGUF 模型测试和性能观察。页面不提供可执行安装包，不要求输入账号、密码、支付信息或任
GGML的CPU算子解读：矩阵乘法
算子实现 调用流程 主要是ggml_compute_forward_mul_mat函数，该函数把任务拆分，最终计算执行调用ggml_compute_forward_mul_mat_on
linux 实时性能测试
使能方法 在linux 6.12版本之后原生SDK就支持了PREEMPT_RT，使能方式如下： make kernel_menuconfig General setup ---> <*> Fully Preemptible Kernel (Real-Time) 或者直接搜索CONFIG_PREEMPT_RT=y 确认是否已经打开 zcat …
GGML计算基础：矩阵的基本运算
矩阵相乘 是神经网络中算力消耗最大的部分，通常占据 LLM 推理计算量的 95% 以上。 矩阵乘法 (Matrix Multiplication / GEMM) 这是最通用的矩阵运算形式，也是 AI 芯片中 Tensor Core 或 MAC 阵列的主要工作内容。 定义： 设矩阵 $A$ 的形状为 $(M \times K
GGML多线程计算：OpenMP简介
OpenMP是什么 OpenMP是一套用于共享内存并行系统的多线程程序设计标准。通俗的将，它允许通过简单的编译器指令（#pragma）将原本串行执行的C/C++ for循环瞬间变成多线
GGML 入门：搞懂张量、内存池与计算图
ggml是什么 ggml是用于transformer架构推理的机器学习库，类似于pytorch、TensorFlow等机器学习库。ggml不需要第三方库的依赖，目前兼容X86、ARM
pipecat关键调用流程
业务流 启动阶段 帧处理
ISP（Image Signal Processor）关键技术指标
什么是ISP 一句话定义ISP：ISP就是把传感器吐出来的RAW电信号处理成可用于人眼、算法的图像数据的一整套“信号处理流水线”。 上面这张图是传统ISP流水线到AI ISP的演变。 （1
基于ubuntu系统安装使用Fast DDS
什么是Fast DDS Fast DDS是一个高性能的"分布式通信中间库"，用来在不同进程、不同设备之间传输数据的。Fast DDS是用C++写的一个DDS实现，在同一台机器的多
JSON-RPC 2.0 规范解读
概述 JSON-RPC是一种无状态、轻量的远程调用（RPC）协议，其有一套规范，定义了若干数据结构及其处理规则。它对传输层是无关的，可以在同一进程中传递使用，也可以跨进程、跨环境如s