28.9 миллионов параметров на ESP32-S3: как запустить LLM на микроконтроллере за 250 рублей
Memory hierarchy микроконтроллера как фича, а не ограничение: 25M параметров во flash, 558K dense-ядро в PSRAM, 9.88 tok/s end-to-end на чипе с 512KB SRAM.
Метка: esp32