локальный ии

  1. NewsMaker

    Новости 28,9 млн параметров и почти 10 токенов в секунду. Нейросеть запустили на микроконтроллере за $10

    Большой ИИ не поместился. Маленький все равно пролез. <div class="articl-text-cover" style="position:relative;width:100%;max-width:800px;margin-left:auto;margin-right:auto;aspect-ratio:1200/675;margin-bottom:2rem;overflow:hidden"> <div itemprop="articleBody">Перепроверила цифры, характеристики...
  2. NewsMaker

    Новости 16 гигабайт — и никакого секса с серверами. Gemma 4 12B обещает почти уровень 26B без утечки данных

    Google выпустила мощную нейросеть для обычных ноутбуков. Google представила Gemma 4 12B и попыталась решить одну из главных проблем локального ИИ: мощные модели обычно требуют слишком много памяти и тяжело запускаются на обычных компьютерах. Новая версия обещает почти уровень Gemma 4 26B...
  3. NewsMaker

    Новости Выглядит как пауэрбанк, думает как сервер. Стартап Tiiny AI выпустил самый маленький суперкомпьютер в мире

    Устройство Pocket Lab попало в Книгу рекордов Гиннесса: оно запускает LLM на 120 млрд параметров локально. Американский стартап Tiiny AI представил устройство Pocket Lab, которое Книга рекордов Гиннесса официально признала самым маленьким персональным AI-суперкомпьютером в мире. По размерам...