Вчера на GitHub выложили масштабный каталог "Awesome-local-LLM" — настоящая сокровищница для программистов, желающих получить собственного ИИ-помощника без зависимости от внешних сервисов. Репозиторий собрал сотни инструментов для запуска языковых моделей локально, сфокусировавшись на Coding-агентах и инструментах для разработки.

В коллекции много интересного и нужного для работы и развлечений — от миниатюрной SmolLM2-360M (генерация текста и даже стихов) размером 360 миллионов параметров до гигантской Llama 3.1-70B (переводчик, писатель, помощник разработчика), которая требует 140 ГБ оперативной памяти. Есть специализированные решения: Qwen3-Coder для программистов, Voxtral с поддержкой аудио и HunyuanWorld-1 для создания 3D-миров.

Особую ценность представляют Coding-агенты. Cline интегрируется прямо в IDE (интегрированная среда разработки) и может создавать файлы, выполнять команды и даже лазить по интернету — все с разрешения разработчика на каждом шаге. Aider превращает терминал в место для парного программирования с ИИ. Continue позволяет создавать кастомных ассистентов для VS Code. OpenHands — целая платформа для разработки софта силами ИИ-агентов.

Среди моделей разработчикам будет особенно интересны: Qwen3-Coder — «самые агентские» модели для кода на сегодня, OlympicCoder-32B для конкурсного программирования, NextCoder от Microsoft для редактирования кода, и компактная Mellum-4b от JetBrains, оптимизированная под задачи разработки.

Для браузерной автоматизации есть целый арсенал: Playwright, Puppeteer, browser-use для создания ботов. Memory management решают mem0 и letta — они запоминают контекст проектов.

Системные требования варьируются от скромных 8 ГБ RAM для мелких моделей до 140 ГБ для монстров вроде Llama 3.1-70B. Но даже 4-миллиардная Jan-nano может решать серьезные задачи исследования кода на обычном ноутбуке.

Каталог включает benchmarks и leaderboards для выбора подходящей модели, калькулятор требований GPU и подробные туториалы — от воспроизведения GPT-2 до продвинутого prompt engineering.

Для разработчиков:

Cline — автономный агент, который редактирует код прямо в IDE (интегрированной среде разработки), выполняет команды и работает с браузером

Aider — помощник для парного программирования в терминале

Continue — создает кастомных ИИ-ассистентов с расширениями для редакторов кода

OpenHands — платформа для разработки агентов, управляемых Искусственным интеллектом

Эти инструменты превращают рутинное кодирование в диалог с умным помощником. Программист объясняет задачу на естественном языке, а ИИ пишет код, исправляет ошибки и даже тестирует решения.

Коллекция «Awesome-local-LLM» поможет программистам быстрее и качественнее сделать работу, найти ошибки и освободить время для чего-то более нужного, например, пойти с друзьями попить пива. И это все совершенно бесплатно. Правда, электросчетчик может начать крутиться как пропеллер.

Пользуйтесь, все это open source, ваш ITNEWS.pro.