https://www.laumy.tech/Linux、嵌入式、AI、大模型、网络协议、系统分析https://www.laumy.tech/3254.html/%E8%A7%A3%E6%9E%84llm%EF%BC%9A-%E4%BB%A5llama-cpp%E5%88%86%E6%9E%90%E6%A8%A1%E5%9E%8B%E6%8E%A8%E7%90%86%E8%BF%87%E7%A8%8B/https://www.laumy.tech/3254.html/%E8%A7%A3%E6%9E%84llm%EF%BC%9A-%E4%BB%A5llama-cpp%E5%88%86%E6%9E%90%E6%A8%A1%E5%9E%8B%E6%8E%A8%E7%90%86%E8%BF%87%E7%A8%8B/Sun, 15 Mar 2026 02:36:39 +0000大模型推理的"第一性原理" 从Deepseek V3到Kimi K2 无论模型如何变化，当前主流大模型的核心架构都是基于transformer。其本质是一个由多层相同结构https://www.laumy.tech/3228.html/llama-cpp-%E6%A8%A1%E5%9E%8B%E5%8A%A0%E8%BD%BD%E8%BF%87%E7%A8%8B/https://www.laumy.tech/3228.html/llama-cpp-%E6%A8%A1%E5%9E%8B%E5%8A%A0%E8%BD%BD%E8%BF%87%E7%A8%8B/Thu, 12 Feb 2026 03:49:22 +0000概述 llama.cpp 的模型加载系统是一个高度优化的、支持多后端、多设备的模型权重加载框架。它通过精心设计的数据结构和加载流程，实现了： 零拷贝加载：通过内存映射（mmap）实现模型文件的零拷贝加载https://www.laumy.tech/3217.html/ggml%E5%90%8E%E7%AB%AF%E6%9E%B6%E6%9E%84%E6%A6%82%E8%A6%81%E5%88%86%E6%9E%90/https://www.laumy.tech/3217.html/ggml%E5%90%8E%E7%AB%AF%E6%9E%B6%E6%9E%84%E6%A6%82%E8%A6%81%E5%88%86%E6%9E%90/Thu, 29 Jan 2026 03:47:05 +0000后端系统概述 GGML后端系统主要提供如下功能： 统一接口： 不同硬件平台使用相关的API。 自动选择：根据硬件自动选择最优后端。 灵活切换：可以在运行时切换后端。 扩展性：易于添加的新后端。https://www.laumy.tech/3212.html/llama-cpp%E5%88%9D%E6%8E%A2%EF%BC%9Asimple%E7%A4%BA%E4%BE%8B%E4%BB%A3%E7%A0%81%E7%AE%80%E8%A6%81%E5%88%86%E6%9E%90/https://www.laumy.tech/3212.html/llama-cpp%E5%88%9D%E6%8E%A2%EF%BC%9Asimple%E7%A4%BA%E4%BE%8B%E4%BB%A3%E7%A0%81%E7%AE%80%E8%A6%81%E5%88%86%E6%9E%90/Wed, 28 Jan 2026 11:47:53 +0000加载后端 void ggml_backend_load_all() { ggml_backend_load_all_from_path(nullptr); } void ggml_backend_load_all_from_path(const char * dir_path) { #ifdef NDEBUG bool silent = true; #else bool silent = false; #endif ggml_backend_load_best("blas", silent, dir_path); ggml_backend_load_best("zendnn", silent, dir_path); ggml_backend_load_best("cann", silent, dir_path); ggml_backend_load_best("cuda", silent, dir_path); ggml_backend_load_best("hip", silent, dir_path); ggml_backend_load_best("metal", silent, dir_path); ggml_backend_load_best("rpc", silent, dir_path); ggml_backend_load_best("sycl", silent, dir_path); ggml_backend_load_best("vulkan", silent, dir_path); ggml_backend_load_best("opencl", silent, dir_path); ggml_backend_load_best("hexagon", silent, dir_path); ggml_backend_load_best("musa", silent, dir_path); ggml_backend_load_best("cpu", silent, dir_path); // check the environment variable GGML_BACKEND_PATH to load an out-of-tree backend const char * backend_path = std::getenv("GGML_BACKEND_PATH"); if (backend_path) { ggml_backend_load(backend_path); } } 动https://www.laumy.tech/3198.html/jetson-orin-nano%E4%BD%BF%E7%94%A8tensorrt-llm%E8%B7%91%E5%A4%A7%E6%A8%A1%E5%9E%8B/https://www.laumy.tech/3198.html/jetson-orin-nano%E4%BD%BF%E7%94%A8tensorrt-llm%E8%B7%91%E5%A4%A7%E6%A8%A1%E5%9E%8B/Sat, 24 Jan 2026 04:28:39 +0000准备 硬件信息 硬件信息如下： sudo cat /proc/device-tree/model NVIDIA Jetson Orin NX Enginejetson_releasee Developer Kit(base) nano@nano-desktop:~$ jetson_release Software part of jetson-stats 4.3.2 - (c) 2024, Raffaello Bonghi Model: NVIDIA Jetson Orin NX Engineering Reference Developer Kit - Jetpack 6.2 [L4T 36.4.3] NV Power Mode[0]: 15W Serial Number: [XXX Show with: jetson_release -s XXX] Hardware: - P-Number: p3767-0003 - Module: NVIDIA Jetson Orin Nano (8GB ram) Platform: - Distribution: Ubuntu 22.04 Jammy Jellyfish - Release: 5.15.148-tegra jtop: - Version: 4.3.2 - Service: Activehttps://www.laumy.tech/3190.html/jetson-orin-nano%E4%BD%BF%E7%94%A8llamap-cpp%E8%B7%91%E5%A4%A7%E6%A8%A1%E5%9E%8B/https://www.laumy.tech/3190.html/jetson-orin-nano%E4%BD%BF%E7%94%A8llamap-cpp%E8%B7%91%E5%A4%A7%E6%A8%A1%E5%9E%8B/Thu, 22 Jan 2026 12:26:17 +0000安装 确认一下是否有/usr/local/cuda/bin/nvcc，有就配置一下环境。 # 临时在当前终端生效 export PATH=/usr/local/cuda/bin:$PATH export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH # 验证 nvcc 是否能找到 nvcc --version 如果没有就安装 sudo -E apt install cuda-toolkit 下载代码 git clone https://github.com/ggerganov/llama.cpp cd llama.cpp 安https://www.laumy.tech/3176.html/ggml%E7%9A%84cpu%E7%AE%97%E5%AD%90%E8%A7%A3%E8%AF%BB%EF%BC%9A%E7%9F%A9%E9%98%B5%E4%B9%98%E6%B3%95/https://www.laumy.tech/3176.html/ggml%E7%9A%84cpu%E7%AE%97%E5%AD%90%E8%A7%A3%E8%AF%BB%EF%BC%9A%E7%9F%A9%E9%98%B5%E4%B9%98%E6%B3%95/Tue, 20 Jan 2026 08:00:36 +0000算子实现 调用流程 主要是ggml_compute_forward_mul_mat函数，该函数把任务拆分，最终计算执行调用ggml_compute_forward_mul_mat_onhttps://www.laumy.tech/3171.html/linux-%E5%AE%9E%E6%97%B6%E6%80%A7%E8%83%BD%E6%B5%8B%E8%AF%95/https://www.laumy.tech/3171.html/linux-%E5%AE%9E%E6%97%B6%E6%80%A7%E8%83%BD%E6%B5%8B%E8%AF%95/Tue, 20 Jan 2026 03:44:28 +0000使能方法 在linux 6.12版本之后原生SDK就支持了PREEMPT_RT，使能方式如下： make kernel_menuconfig General setup ---> <*> Fully Preemptible Kernel (Real-Time) 或者直接搜索CONFIG_PREEMPT_RT=y 确认是否已经打开 zcat /proc/config.gzhttps://www.laumy.tech/3167.html/ggml%E8%AE%A1%E7%AE%97%E5%9F%BA%E7%A1%80%EF%BC%9A%E7%9F%A9%E9%98%B5%E7%9A%84%E5%9F%BA%E6%9C%AC%E8%BF%90%E7%AE%97/https://www.laumy.tech/3167.html/ggml%E8%AE%A1%E7%AE%97%E5%9F%BA%E7%A1%80%EF%BC%9A%E7%9F%A9%E9%98%B5%E7%9A%84%E5%9F%BA%E6%9C%AC%E8%BF%90%E7%AE%97/Tue, 20 Jan 2026 02:01:27 +0000矩阵相乘 是神经网络中算力消耗最大的部分，通常占据 LLM 推理计算量的 95% 以上。 矩阵乘法 (Matrix Multiplication / GEMM) 这是最通用的矩阵运算形式，也是 AI 芯片中 Tensor Core 或 MAC 阵列的主要工作内容。 定义： 设矩阵 $A$ 的形状为 $(M \times Khttps://www.laumy.tech/3160.html/ggml%E5%A4%9A%E7%BA%BF%E7%A8%8B%E8%AE%A1%E7%AE%97%EF%BC%9Aopenmp%E7%AE%80%E4%BB%8B/https://www.laumy.tech/3160.html/ggml%E5%A4%9A%E7%BA%BF%E7%A8%8B%E8%AE%A1%E7%AE%97%EF%BC%9Aopenmp%E7%AE%80%E4%BB%8B/Mon, 19 Jan 2026 12:18:41 +0000OpenMP是什么 OpenMP是一套用于共享内存并行系统的多线程程序设计标准。通俗的将，它允许通过简单的编译器指令（#pragma）将原本串行执行的C/C++ for循环瞬间变成多线https://www.laumy.tech/3147.html/ggml-%E5%85%A5%E9%97%A8%EF%BC%9A%E6%90%9E%E6%87%82%E5%BC%A0%E9%87%8F%E3%80%81%E5%86%85%E5%AD%98%E6%B1%A0%E4%B8%8E%E8%AE%A1%E7%AE%97%E5%9B%BE/https://www.laumy.tech/3147.html/ggml-%E5%85%A5%E9%97%A8%EF%BC%9A%E6%90%9E%E6%87%82%E5%BC%A0%E9%87%8F%E3%80%81%E5%86%85%E5%AD%98%E6%B1%A0%E4%B8%8E%E8%AE%A1%E7%AE%97%E5%9B%BE/Sat, 17 Jan 2026 09:31:39 +0000ggml是什么 ggml是用于transformer架构推理的机器学习库，类似于pytorch、TensorFlow等机器学习库。ggml不需要第三方库的依赖，目前兼容X86、ARMhttps://www.laumy.tech/3129.html/pipecat%E5%85%B3%E9%94%AE%E8%B0%83%E7%94%A8%E6%B5%81%E7%A8%8B/https://www.laumy.tech/3129.html/pipecat%E5%85%B3%E9%94%AE%E8%B0%83%E7%94%A8%E6%B5%81%E7%A8%8B/Wed, 17 Dec 2025 11:58:03 +0000业务流 启动阶段 帧处理https://www.laumy.tech/3127.html/isp%EF%BC%88image-signal-processor%EF%BC%89%E5%85%B3%E9%94%AE%E6%8A%80%E6%9C%AF%E6%8C%87%E6%A0%87/https://www.laumy.tech/3127.html/isp%EF%BC%88image-signal-processor%EF%BC%89%E5%85%B3%E9%94%AE%E6%8A%80%E6%9C%AF%E6%8C%87%E6%A0%87/Tue, 16 Dec 2025 12:52:01 +0000什么是ISP 一句话定义ISP：ISP就是把传感器吐出来的RAW电信号处理成可用于人眼、算法的图像数据的一整套“信号处理流水线”。 上面这张图是传统ISP流水线到AI ISP的演变。 （1https://www.laumy.tech/3122.html/%E5%9F%BA%E4%BA%8Eubuntu%E7%B3%BB%E7%BB%9F%E5%AE%89%E8%A3%85%E4%BD%BF%E7%94%A8fast-dds/https://www.laumy.tech/3122.html/%E5%9F%BA%E4%BA%8Eubuntu%E7%B3%BB%E7%BB%9F%E5%AE%89%E8%A3%85%E4%BD%BF%E7%94%A8fast-dds/Sat, 06 Dec 2025 04:26:07 +0000什么是Fast DDS Fast DDS是一个高性能的"分布式通信中间库"，用来在不同进程、不同设备之间传输数据的。Fast DDS是用C++写的一个DDS实现，在同一台机器的多https://www.laumy.tech/3105.html/json-rpc-2-0-%E8%A7%84%E8%8C%83/https://www.laumy.tech/3105.html/json-rpc-2-0-%E8%A7%84%E8%8C%83/Sat, 15 Nov 2025 05:55:05 +0000概述 JSON-RPC是一种无状态、轻量的远程调用（RPC）协议，其有一套规范，定义了若干数据结构及其处理规则。它对传输层是无关的，可以在同一进程中传递使用，也可以跨进程、跨环境如shttps://www.laumy.tech/3093.html/pipecat-mcp%E6%B5%81%E7%A8%8B%E5%88%86%E6%9E%90/https://www.laumy.tech/3093.html/pipecat-mcp%E6%B5%81%E7%A8%8B%E5%88%86%E6%9E%90/Wed, 12 Nov 2025 13:25:45 +0000简介 本文主要基于Pipecat实现一个MCP stdio传输方式调用的示例。基于智谱Web-Search-Pro实现一个MCP Server，然后在Pipecat应用基础上实现MCP Chttps://www.laumy.tech/3076.html/mcp%E5%8D%8F%E8%AE%AE/https://www.laumy.tech/3076.html/mcp%E5%8D%8F%E8%AE%AE/Tue, 11 Nov 2025 06:08:37 +0000简介 什么是MCP MCP是Model Context Protocol模型上下文的一个开源标准，用于连接人工智能应用程序到外部系统。使用MCP，让Claude、ChatGPT这样的AI applicahttps://www.laumy.tech/3068.html/lekiwi%E5%BD%95%E5%88%B6%E8%AE%AD%E7%BB%83%E6%8E%A8%E7%90%86%E6%B5%81%E7%A8%8B%E5%AE%9E%E8%B7%B5/https://www.laumy.tech/3068.html/lekiwi%E5%BD%95%E5%88%B6%E8%AE%AD%E7%BB%83%E6%8E%A8%E7%90%86%E6%B5%81%E7%A8%8B%E5%AE%9E%E8%B7%B5/Tue, 04 Nov 2025 07:23:46 +0000录制 设备端 先确定一下相机编号 cd ~/lerobot/ lerobot-find-cameras 生成路径：outputs/captured_images 然后修改uart的权限 sudo chmod 666 /dev/ttyACM0 启动等待连接 python -m lerobot.robots.lekiwi.lekiwi_host \ --robot.id=R1225280 \ --robot.cameras='{ "front": {"type":"opencv","index_or_path":"/dev/video2","width":640,"height":480,"fps":30}, "wrist": {"type":"opencv","index_or_path":"/dev/video0","width":480,"height":640,"fps":30,"rotation":"ROTATE_90"} }' \ --host.connection_time_s=300 如果分辨率跑不上去，https://www.laumy.tech/3055.html/ubuntu%E7%B3%BB%E7%BB%9Fxiaozhi-server%E6%9C%AC%E5%9C%B0%E9%83%A8%E7%BD%B2/https://www.laumy.tech/3055.html/ubuntu%E7%B3%BB%E7%BB%9Fxiaozhi-server%E6%9C%AC%E5%9C%B0%E9%83%A8%E7%BD%B2/Thu, 30 Oct 2025 04:00:10 +0000简介 本文主要是记录在ubuntu系统从零源码的方式本地部署小智Ai服务端的过程，项目的地址为：xiaozhi-server。在部署之前简单了解一下其项目框架，这里总结可以分为3部分https://www.laumy.tech/3051.html/lekiwi%E9%A9%B1%E5%8A%A8%E9%93%BE%E8%B7%AF%E5%88%86%E6%9E%90/https://www.laumy.tech/3051.html/lekiwi%E9%A9%B1%E5%8A%A8%E9%93%BE%E8%B7%AF%E5%88%86%E6%9E%90/Tue, 28 Oct 2025 09:35:28 +0000系统架构 硬件组成 Lekiwi是一个底盘+机械臂的结构。 机械臂： 6个自由度（shoulder_pan, shoulder_lift, elbow_flex, wrist_flex, wrist_roll, gripper） 移动底盘：3个全向轮，三轮全向移动（left_wheelhttps://www.laumy.tech/3030.html/lekiwiorin-nano%E7%8E%AF%E5%A2%83%E6%90%AD%E5%BB%BA/https://www.laumy.tech/3030.html/lekiwiorin-nano%E7%8E%AF%E5%A2%83%E6%90%AD%E5%BB%BA/Sat, 25 Oct 2025 04:05:52 +0000环境准备 简要记录在Orin nano平台搭建lekiwi环境，可以远程遥控底盘移动和机械臂示教的过程，需要的硬件如下： - NVIDIA Jetson Orin Nano开发板 - Lekiwi套件（底盘、主从机械臂） - Phttps://www.laumy.tech/3025.html/jetson-nano%E7%8E%AF%E5%A2%83%E6%90%AD%E5%BB%BA/https://www.laumy.tech/3025.html/jetson-nano%E7%8E%AF%E5%A2%83%E6%90%AD%E5%BB%BA/Wed, 22 Oct 2025 05:32:20 +0000安装浏览器 sudo apt update sudo apt install chromium-browser -y 安装后发现点击浏览器会没反应。按照下面方法配置。 snap download snapd --revision=24724 sudo snap ack snapd_24724.assert sudo snap install snapd_24724.snap sudo sudo snap refresh --hold snapd 配置VNC sudo apt update sudo apt install vino 然后配置 步骤1： 设置开机自启 对于 LXDE 桌面（例如 2https://www.laumy.tech/3010.html/%E4%B8%BA%E4%BB%80%E4%B9%88alphago%E8%83%BD%E8%87%AA%E5%AD%A6%E5%9B%B4%E6%A3%8B%EF%BC%9F%E5%BC%BA%E5%8C%96%E5%AD%A6%E4%B9%A0%E5%9F%BA%E6%9C%AC%E6%A6%82%E5%BF%B5/https://www.laumy.tech/3010.html/%E4%B8%BA%E4%BB%80%E4%B9%88alphago%E8%83%BD%E8%87%AA%E5%AD%A6%E5%9B%B4%E6%A3%8B%EF%BC%9F%E5%BC%BA%E5%8C%96%E5%AD%A6%E4%B9%A0%E5%9F%BA%E6%9C%AC%E6%A6%82%E5%BF%B5/Sat, 18 Oct 2025 07:38:17 +0000强化学习简介 什么是强化学习 以直升机控制飞行的程序来举例。 自动驾驶的直升机配备了机载计算机、GPS、加速度计、陀螺仪和磁罗盘，我们可以实时确定的知道直升机的位置。如何使用强化学习来让https://www.laumy.tech/2984.html/%E6%9C%BA%E5%99%A8%E4%BA%BA%E5%85%A8%E8%BA%AB%E6%8E%A7%E5%88%B6%E6%B5%85%E8%B0%88%EF%BC%9A%E7%90%86%E8%A7%A3-wbc-%E7%9A%84%E5%8E%9F%E7%90%86/https://www.laumy.tech/2984.html/%E6%9C%BA%E5%99%A8%E4%BA%BA%E5%85%A8%E8%BA%AB%E6%8E%A7%E5%88%B6%E6%B5%85%E8%B0%88%EF%BC%9A%E7%90%86%E8%A7%A3-wbc-%E7%9A%84%E5%8E%9F%E7%90%86/Mon, 29 Sep 2025 08:41:28 +0000概念 WBC（Whole-Body Control，全身控制）是什么？机器人是由“各关节”组成的，其不是“各关节各玩各的”而是一个耦合的整体。在某个时刻可能要做很多事情，比如保持平衡（https://www.laumy.tech/2972.html/mpc/https://www.laumy.tech/2972.html/mpc/Sun, 28 Sep 2025 10:18:51 +0000背景 MPC（Model Predictive Control）模型预测控制，是一种控制方法，广泛应用在机器人、无人驾驶、过程控制、能源系统等领域。它的核心思想用一句话来总结：利用系统模型预测未来，并通过https://www.laumy.tech/2967.html/%E8%AF%AD%E9%9F%B3%E7%94%9F%E6%88%90%E6%A8%A1%E5%9E%8B%EF%BC%9Acosyvoice%E5%85%A5%E9%97%A8%E5%AE%9E%E8%B7%B5/https://www.laumy.tech/2967.html/%E8%AF%AD%E9%9F%B3%E7%94%9F%E6%88%90%E6%A8%A1%E5%9E%8B%EF%BC%9Acosyvoice%E5%85%A5%E9%97%A8%E5%AE%9E%E8%B7%B5/Fri, 26 Sep 2025 07:11:10 +0000是什么 CosyVoice是阿里开源的一款文字转语音的开源模型，可以支持音色复刻。 怎么用 环境安装 （1）代码下载 git clone --recursive https://github.com/FunAudioLLM/CosyVoice.git cd CosyVoice git submodule update --init --recursive 因为CosyVoice仓库中还依赖了第三方的Mathttps://www.laumy.tech/2961.html/%E8%AF%AD%E9%9F%B3%E8%AF%86%E5%88%AB%E6%A8%A1%E5%9E%8B%EF%BC%9Asensevoice%E5%85%A5%E9%97%A8%E5%AE%9E%E8%B7%B5/https://www.laumy.tech/2961.html/%E8%AF%AD%E9%9F%B3%E8%AF%86%E5%88%AB%E6%A8%A1%E5%9E%8B%EF%BC%9Asensevoice%E5%85%A5%E9%97%A8%E5%AE%9E%E8%B7%B5/Fri, 26 Sep 2025 02:50:24 +0000是什么 SenseVoice是多语言识别的模型，支持语音转文字（ASR, Automatic Speech Recognition，自动语音识别），语种识别（LID, Language Identification），语音情感识别（https://www.laumy.tech/2956.html/windows%E8%AE%BF%E9%97%AElinux%E6%90%AD%E5%BB%BA%E7%9A%84samba%E6%9C%8D%E5%8A%A1/https://www.laumy.tech/2956.html/windows%E8%AE%BF%E9%97%AElinux%E6%90%AD%E5%BB%BA%E7%9A%84samba%E6%9C%8D%E5%8A%A1/Tue, 23 Sep 2025 08:50:03 +0000Linux 服务 安装 Samba 是Linux上实现SMB/CIFS 协议的服务，可以让 Windows、Linux、macOS 之间互相访问文件夹。 安装samba sudo apt update sudo apt install samba -y 配置 （1）配置文件 sudo vim /etc/samba/smb.conf [share] pathhttps://www.laumy.tech/2945.html/ros2-%E5%BB%BA%E5%9B%BE%E4%B8%8E%E5%AF%BC%E8%88%AA%EF%BC%9Aslam_toolbox%E3%80%81nav2%E5%AE%9E%E8%B7%B5/https://www.laumy.tech/2945.html/ros2-%E5%BB%BA%E5%9B%BE%E4%B8%8E%E5%AF%BC%E8%88%AA%EF%BC%9Aslam_toolbox%E3%80%81nav2%E5%AE%9E%E8%B7%B5/Fri, 19 Sep 2025 10:18:10 +0000地图构建 在 ROS2 中，地图构建常用 SLAM（Simultaneous Localization and Mapping） 技术。其大概流程是: 传感器采集数据：可使用激光雷达（2D/3D LiDAR）或相机（VSLAM） 里程https://www.laumy.tech/2939.html/ros2%E6%9C%BA%E5%99%A8%E6%84%9F%E7%9F%A5%EF%BC%9A%E7%9B%B8%E6%9C%BA%E3%80%81%E9%9B%B7%E8%BE%BE%E3%80%81imu/https://www.laumy.tech/2939.html/ros2%E6%9C%BA%E5%99%A8%E6%84%9F%E7%9F%A5%EF%BC%9A%E7%9B%B8%E6%9C%BA%E3%80%81%E9%9B%B7%E8%BE%BE%E3%80%81imu/Thu, 18 Sep 2025 09:54:45 +0000相机 相机安装 sudo apt install ros-jazzy-usb-cam 可视化 run usb_cam usb_cam_node_exe --ros-args -p video_device:=/dev/video2 ros2 run rqt_image_vew rqt_image_view 上面的-p指定具体的摄像头，可以用v4l2-ctl –list-devices列出。 参数 查看当前相机的发布话题 laumy@ThinkBook-14-G7-IAH:~/dev_ws$ ros2 topic info -v /image_raw Type: