跳到主要内容

AI模型搭建

参考 Dylan 在 GitHub 上开源程序进行搭建 https://github.com/dylski/PaperPiAI
搭建相对比较复杂，需要科学上网，国内客户建议使用我们已经搭建好的系统

硬件准备​

  • 32GB 内存卡，搭建过程中，全程会新增约 20GB 的内容
  • 系统选择建议为：Raspberry Pi oS (64-bit)
  • Raspberry Pi Zero 2 W （PS：我直接使用这个进行安装的）
  • ETH/USB HUB HAT （可选，PS：主要用于接入网线，使用WiFi没有使用网线下载稳定）

软件搭建​

  • 将系统烧录到内存卡中

  • 更新源，并更新软件（国内建议换源）

    sudo apt-get update
    sudo apt-get upgrade

  • 安装git，下载存储库

    sudo apt install git

  • 下载参考存储库（可选）

    git clone https://github.com/dylski/PaperPiAI.git
    cd PaperPiAI
    scripts/install.sh  # 国内用户不推荐直接使用安装脚本，建议一步一步执行 Shell 文件中的命令

  • 安装必要的工具

    sudo apt-get -y install tmux vim
    sudo apt-get -y install cmake
    sudo apt-get -y install python3-dev python3-venv python3-pip
    sudo apt-get -y install imagemagick
    sudo apt-get -y install git git-lfs
    sudo apt-get -y install libopencv-dev  python3-opencv

  • 创建一个文件夹，并进入（我这里是直接下载的存储库，因此直接使用这个）

    cd PaperPiAI

  • 创建一个虚拟环境（只创建一次，如果后面在创建，需要重新下载一些软件包）

    python3 -m venv venv
    PS：为什么要安装虚拟环境
        在python官方的要求下，有些python库只能在虚拟环境下进行安装
        树莓派最新系统也跟着这样弄了

  • 进入虚拟环境（退出命令： deactivate）

    . venv/bin/activate

  • 安装一些软件（国内用户推荐换源，基于原本的图像处理脚本，使用我们修改后的无需）

    python -m pip install opencv_contrib_python
    python -m pip install inky[rpi]==1.5.0
    python -m pip install pillow

安装AI大模型​

  • 参考 Vito Plantamura 在 GitHub 上开源例程 https://github.com/vitoplantamura/OnnxStream

  • 进入之前创建的目录并下载并安装 XNNPACK

    cd  ~/PaperPiAI
    git clone https://github.com/google/XNNPACK.git
    cd XNNPACK
    git checkout 1c8ee1b68f3a3e0847ec3c53c186c5909fa3fbd3
    mkdir build
    cd build
    cmake -DXNNPACK_BUILD_TESTS=OFF -DXNNPACK_BUILD_BENCHMARKS=OFF ..    # 这里需要从 github 上下载一些相应的存储库，国内客户需要科学上网
    cmake --build . --config Release    # zero 2W 编译超过三小时

  • 进入之前创建的目录并下载并安装 OnnxStream

    cd ~/PaperPiAI
    git clone https://github.com/vitoplantamura/OnnxStream.git
    cd OnnxStream
    cd src
    mkdir build
    cd build
    cmake -DMAX_SPEED=ON -DOS_LLM=OFF -DOS_CUDA=OFF -DXNNPACK_DIR="${INSTALL_DIR}/XNNPACK" ..      # 这里需要从 github 上下载一些相应的存储库，国内客户需要科学上网
    cmake --build . --config Release      # zero 2W 编译在十几分钟

  • 下载大模型资源

    cd ~/PaperPiAI
    mkdir models
    cd models
    git clone --depth=1 https://huggingface.co/vitoplantamura/stable-diffusion-xl-turbo-1.0-anyshape-onnxstream
    # 下载约 9G