Здесь я пишу про ИИ, новые модели и сервисы, которые мне показались интересными. Делюсь своими проектами, экспериментами и тем, как использую ИИ в работе, образовании и исследованиях
Нас уже 100. Для большого Telegram-канала цифра совсем небольшая. Но для FomLab, который я запустил только в начале сентября, это очень приятный первый рубеж. Спасибо всем, кто подписался, читает посты, пересылает их знакомым и даёт обратную связь.
Зачем вообще нужны локальные нейросети, если облачные модели уже такие сильные За последние пару лет облачные нейросети стали настолько хорошими, что возникает вполне логичный вопрос: а зачем вообще запускать модель у себя на компьютере или сервере? ChatGPT, Claude, Gemini открываются в браузере, постоянно обновляются, работают с файлами, изображениями, кодом и не требуют от пользователя практически никаких технических знаний. И если мне просто нужно написать текст, разобрать документ или быстро получить ответ, я тоже почти всегда выберу облачный сервис. Но локальные модели я при этом не забросил. Наоборот, периодически возвращаюсь к ним и продолжаю экспериментировать на собственной инфраструктуре. Что вообще значит «локальная нейросеть»? В самом простом варианте это модель, которая работает не на серверах OpenAI, Anthropic или Google, а на вашем собственном компьютере или сервере. Вы один раз скачиваете модель, запускаете её у себя — и дальше запрос обрабатывается вашим железом. То есть условный чат внешне может выглядеть почти так же, как ChatGPT, но сама модель физически работает у вас. У меня, например, для таких экспериментов используется отдельный домашний сервер с Ollama и OpenWebUI. И дело здесь совсем не в попытке собрать «свой ChatGPT». У локальных моделей просто есть несколько сценариев, где они оказываются удобнее. Первое — данные. Если я отправляю документ в облачную нейросеть, данные в любом случае покидают мой компьютер и уходят во внешнюю инфраструктуру. Во многих бытовых задачах в этом нет никакой проблемы. Но если речь идёт о внутренних документах, базе знаний организации, исследовательских данных или другой чувствительной информации, возможность оставить обработку внутри своей сети становится довольно интересной. При правильно настроенной локальной системе сам текст вообще не обязан покидать ваш сервер. Второе — большое количество однотипных запросов. Представим, что нужно обработать не десять документов, а десять тысяч. Через API облачной модели каждый запрос имеет свою стоимость. У локальной модели экономика другая. Вы уже заплатили за компьютер или сервер, дальше платите в основном за электричество и обслуживание оборудования. Поэтому для больших потоков относительно простых задач локальная модель иногда начинает выглядеть вполне рационально. Третье — автоматизация. Мне этот сценарий особенно интересен. Локальную модель можно встроить внутрь собственного сервиса и дать ей довольно узкую задачу. Например: получить документ → извлечь нужную информацию → привести её к определённому формату → сохранить результат в базе. И здесь совершенно необязательно каждый раз обращаться к внешнему сервису. Получается маленький внутренний ИИ-инструмент, который работает как часть вашей инфраструктуры. Четвёртое — автономность. Сервис может изменить тарифы. API может быть временно недоступен. Модель может исчезнуть из продукта. В некоторых странах может измениться доступность самого сервиса. С локальной моделью подобных зависимостей заметно меньше. Если модель уже скачана и оборудование работает, многие задачи можно выполнять даже без постоянного подключения к интернету. Но у этой автономности есть цена. Локальная модель — это не бесплатный ChatGPT. Нужно подходящее железо. Нужно хранить сами модели. Иногда нужно разбираться с Docker, драйверами, памятью, квантованием и другими словами, которые нормальному человеку совершенно необязательно хотелось знать до начала эксперимента 🙂 И главное — небольшая локальная модель обычно не становится магическим образом сильнее лучших облачных систем. В сложном исследовании, программировании или работе с большим количеством разных инструментов я всё равно чаще выберу сильную облачную модель. Поэтому сейчас я смотрю на локальный ИИ не как на замену ChatGPT или Claude. Скорее это ещё один уровень инфраструктуры. Облако — когда нужна максимальная мощность, удобство и самые свежие возможности. Локальная модель — когда важны контроль, приватность, автономность или большое количество предсказуемых операций. А самое интересное начинается, когда эти два подхода используются вместе.
Канал «FomLab» подключен к сервису MaxGate. Контент автоматически синхронизируется между Telegram и мессенджером MAX.
Подключить кросспостинг«FomLab» - канал из категории «Нейросети», подключенный к сервису кросспостинга MaxGate. Публикации канала синхронизируются между Telegram и мессенджером MAX, а на этой странице собраны ссылки на обе версии канала.
Сейчас у канала 135 подписчиков суммарно в Telegram и MAX. За последние 9 дней в истории MaxGate учтено 7 публикаций, поэтому перед подпиской можно оценить не только размер аудитории, но и регулярность обновлений.
Чтобы подписаться, используйте кнопки «Открыть в MAX» и «Открыть в Telegram» в верхней части страницы. У отдельных постов ссылка может быть доступна в обоих мессенджерах или только в одном из них, если MaxGate получил такой URL из истории обработки.
Как пользоваться зарубежными нейросетями через российские платформы Эта неделя хорошо показала одну из проблем, с которой сталкиваются пользователи нейросетей в России. Сначала Anthropic представила Claude Fable 5.1, а буквально через пару дней OpenAI анонсировала GPT-6 Astra. Обе модели выглядят очень интересно, но напрямую воспользоваться сервисами Anthropic и OpenAI из России по-прежнему проблематично: наша страна официально не входит в список поддерживаемых регионов. Плюс остаётся вопрос оплаты зарубежных подписок. Но есть ещё один вариант, который может быть удобнее, если не хочется каждый раз отдельно разбираться с доступом, регистрацией и оплатой каждого нового сервиса. Это российские платформы, которые собирают сразу несколько зарубежных нейросетей в одном интерфейсе. Сразу важное уточнение: MashaGPT и StudyAI — это не официальные российские версии ChatGPT, Claude или Gemini и не представительства OpenAI, Anthropic или Google. Это самостоятельные сервисы-агрегаторы. Но у такого подхода есть свои плюсы: оплата российской картой, один аккаунт, единый интерфейс и возможность работать сразу с моделями разных компаний. При этом самые новые модели могут появляться в агрегаторах не одновременно с официальным релизом — актуальный список всегда стоит проверять перед оплатой. Из тех вариантов, которые я могу рекомендовать посмотреть, сейчас выделю два. MashaGPT https://mashagpt.ru Я бы в первую очередь смотрел на этот сервис для творческих и медиазадач. В одном месте собраны не только текстовые модели, но и инструменты для генерации изображений, видео, музыки, презентаций и работы с фотографиями. Сейчас сервис заявляет более 50 нейросетей: модели GPT и Claude, Midjourney, GPT Image, Flux, Kling, Veo, Sora, Runway, Suno и другие. Не нужно отдельно регистрироваться в нескольких сервисах и разбираться с оплатой каждого из них. StudyAI https://study24.ai Здесь я бы делал акцент немного на другом. StudyAI интересен прежде всего тогда, когда хочется попробовать много разных нейросетей и сравнить их между собой. Внутри собраны модели OpenAI, Claude, Gemini, DeepSeek, Grok, Qwen, Perplexity, а также инструменты для изображений, видео и других задач. Конкретный набор зависит от тарифа. То есть можно взять одну задачу и посмотреть, как с ней справятся разные модели. Запустить один и тот же запрос через несколько нейросетей — и довольно быстро станет понятно, какая из них лучше подходит именно под вашу задачу. Поэтому для обучения и знакомства с разными моделями мне этот подход нравится больше. Но здесь есть ещё один критерий, который я теперь обязательно проверяю у подобных платформ. Кто вообще стоит за сайтом? У MashaGPT опубликована публичная оферта и реквизиты российского ИП, который является оператором сервиса. У StudyAI оператором указано российское ООО «Диджитал гениус», также опубликованы пользовательское соглашение, реквизиты и контакты. Это не гарантирует, что сервис никогда не столкнётся с техническими проблемами. И наличие российского юридического лица не делает его официальным партнёром OpenAI или Anthropic. Но по крайней мере понятно, с кем вы заключаете соглашение, кому платите и куда обращаться, если что-то пошло не так. А если конкретная нейросеть официально доступна вам напрямую и вы постоянно используете именно её, оригинальный сервис всё равно остаётся предпочтительным вариантом. Агрегаторы я бы воспринимал прежде всего как удобный дополнительный инструмент: они позволяют не заводить несколько аккаунтов, не оплачивать каждую зарубежную подписку отдельно и дают возможность попробовать разные модели в одном месте.
Кажется, сентябрь решил вообще не давать нам отдохнуть. Буквально несколько дней назад Anthropic показала Fable 5.1, про которую я писал в предыдущем посте. И вот уже перед выходными OpenAI неожиданно представила GPT-6 Astra. Причём это не просто очередное небольшое обновление ChatGPT. Основной акцент Astra — на самостоятельной работе за компьютером. Модель умеет работать с браузером и программами, писать и запускать код, выполнять длинные последовательности действий, проводить исследования и собирать готовые документы, таблицы и презентации. То есть движение всё то же, которое мы наблюдаем последние месяцы: нейросеть постепенно превращается из собеседника в исполнителя. Интересно и другое. Президент OpenAI Грег Брокман уже заговорил о том, что GPT-6 Astra может обозначить начало «эры AGI». Здесь стоит сделать небольшое пояснение. AGI — Artificial General Intelligence, или искусственный общий интеллект. Если привычная нейросеть хорошо решает отдельные типы задач, то под AGI обычно понимают систему, способную осваивать и решать очень широкий круг интеллектуальных задач примерно так же универсально, как человек: анализировать новую ситуацию, учиться, планировать и переносить знания из одной области в другую. Но важно: заявление OpenAI ещё не означает, что человечество официально «достигло AGI». У этого понятия до сих пор нет единого общепринятого теста и даже строгого определения. Поэтому пока я бы воспринимал слова OpenAI скорее как заявление о направлении развития модели. Есть и ещё одна интересная деталь. GPT-6 Astra стала первой моделью OpenAI, достигшей критического уровня возможностей в области кибербезопасности по внутренней классификации компании. Она способна самостоятельно искать ранее неизвестные уязвимости и разрабатывать способы их эксплуатации. Поэтому часть возможностей пока будет доступна только ограниченному кругу пользователей, а OpenAI отдельно усилила систему контроля и мониторинга. Сейчас доступ получает ограниченная группа организаций, а в ближайшие дни модель должна начать появляться у пользователей ChatGPT Plus, Pro, Business и Enterprise. Получается довольно интересная неделя. Anthropic показывает Fable 5.1. Через несколько дней OpenAI отвечает GPT-6 Astra.
