Кто хоть раз застревал в поезде между двумя глухими станциями, тот знает это особое чувство: связи нет, скучно до зубной боли, а в голове крутится недописанная история с любимым персонажем. Раньше офлайн-ролевые игры с ИИ казались чем-то из области фантастики — все известные нейросети жили исключительно в облаке и требовали стабильного интернета. Сейчас ситуация изменилась довольно сильно. Локальные модели научились работать прямо на смартфонах, а энтузиасты собрали под них удобные оболочки. Но чтобы не утонуть в этом многообразии, стоит разобраться, какие приложения действительно тянут диалоги с ботами без сети, а какие лишь притворяются автономными.
Локальные нейросети на смартфоне
Главный камень преткновения — железо. Дело в том, что языковые модели прожорливы до оперативной памяти и процессорных циклов, а телефон — устройство компактное. Ещё года три назад запустить хоть что-то осмысленное на мобильном чипе казалось затеей странной. Сейчас же квантизация (упрощённый формат весов модели) творит чудеса: модели на 3–8 миллиардов параметров умещаются в пару гигабайт и шевелятся даже на середнячках. Конечно, до облачных гигантов им далеко, однако для отыгрыша характеров, диалогов и небольших сценок мощности хватает с запасом.
Тем более, что приватность в офлайне абсолютная — никакие переписки не уходят на чужие серверы.
Что такое ролёвка с ботом?
Если коротко — это совместное сочинение истории, где одну сторону отыгрывает человек, а вторую (а иногда и третью, и пятую) — нейросеть. Персонажи бывают любыми: эльф-наёмник, занудный детектив, говорящий чайник, школьный товарищ из параллельной вселенной. Бот подхватывает реплики, реагирует на действия, держит характер. Хорошая ролёвка похожа на импровизационный театр, только сцена помещается в кармане. А офлайн-режим снимает последний барьер — можно отыгрывать сцены хоть в лесу, хоть в самолёте, хоть на даче, где ловит только ворона на дереве.
Layla AI
Пожалуй, самый дружелюбный к новичкам вариант. Это приложение для Android и iOS, которое из коробки даёт готовый интерфейс чата, библиотеку персонажей и встроенный загрузчик моделей. Скачал, выбрал «личность», поставил подходящую LLM (обычно предлагают Llama 3 или Mistral в облегчённой версии) — и можно вести беседу. Интерфейс напоминает привычные чат-приложения, ничего перегруженного. К слову, разработчики честно предупреждают: чем мощнее модель, тем медленнее ответы. На бюджетном смартфоне с 6 ГБ оперативки одно сообщение может «думаться» секунд двадцать. Не молниеносно, но терпимо. Зато за это вы получаете полностью автономного собеседника, который не сольёт ваши тайные сюжеты в маркетинговый отдел.
Целое приключение — в одном телеграм-боте 🌍
Не нужно ничего скачивать, регистрироваться и разбираться в сложных интерфейсах. Открыли Telegram — и вы уже в текстовой ролевой игре с ИИ. Идеально на 10 минут в обеденный перерыв или на целый вечер: история подождёт и продолжится с того же места, где вы остановились.
Открыть бота 👉 https://clck.ru/3Ta8kQ
PocketPal AI
Бесплатная альтернатива, которая в последний год собрала вокруг себя крепкое сообщество. Открытый код, никакой подписки, поддержка форматов GGUF (это стандарт для запакованных моделей). Что особенно радует — приложение позволяет таскать собственные модели с того же Hugging Face, не привязывая пользователя к чьему-то магазину. Минус? Есть. Интерфейс ролевой части здесь скромнее — нет красивых аватарок, готовых карточек персонажей. Зато под капотом полная свобода: хочешь — ставь крошечную Phi-3, хочешь — тяжёлую Qwen на 7 миллиардов параметров. Особый интерес PocketPal вызывает у тех, кто любит копаться в настройках температуры, top-p и системных промтов. Для них это настоящий рай.
ChatterUI
Эту штуку часто называют «мобильным аналогом SillyTavern». И небезосновательно. Приложение заточено именно под ролевые сценарии: карточки персонажей в формате PNG (с зашитыми описаниями), история чатов, ветвление ответов, регенерация реплик. Можно подгружать характеры с популярных площадок (chub.ai, например) одним движением. ChatterUI умеет работать и с локальными моделями, и с удалёнными API — но нас интересует именно офлайн-режим, и тут всё в порядке. Кстати, рендеринг markdown поддерживается, так что описания в духе «медленно поворачивает голову» отображаются курсивом, а не голым текстом. Мелочь, а атмосферу держит.
MLC Chat
Проект от исследователей машинного обучения, заточенный под скорость. Используется хитрая компиляция моделей под конкретный GPU телефона (Adreno, Mali, Apple Silicon — всё в дело). За счёт этого ответы выходят шустрее, чем у конкурентов на том же железе. Минус — ролевой обвязки тут практически нет. Это голый чат с моделью, без карточек и сценариев. Так что MLC Chat — выбор для тех, кто готов вручную прописывать системный промт в духе «Ты — пиратский капитан Эдвард, циничный, любит ром, ненавидит французов». Зато и характер потом держится крепко. Тем более, что приложение бесплатное и с открытым кодом.
А что насчёт ПК и ноутбука?
Стоит ли ограничиваться смартфоном? Вовсе нет. Если рюкзак позволяет таскать ноутбук, выбор приложений расширяется в разы. KoboldCpp — лёгкая программа без установки, которая поднимает локальный сервер с веб-интерфейсом. Запустил, открыл браузер на том же ноуте, выбрал модель — и ролёвка пошла. SillyTavern (та самая, что вдохновила ChatterUI) ставится поверх любого локального бэкенда и даёт самый продвинутый ролевой интерфейс из существующих: групповые чаты, мировые лорбуки, скрипты, генерация изображений. LM Studio — вариант для тех, кто хочет «как ChatGPT, только дома»: красивый интерфейс, встроенный каталог моделей, никакой возни с командной строкой. Ну и, конечно же, Jan — относительно молодой, но довольно бойкий проект с акцентом на приватность.
Какую модель выбрать?
Тут многое зависит от того, что у вас за устройство. Для слабых телефонов (4 ГБ оперативки и ниже) подойдёт Phi-3 Mini или Gemma 2B — крошки, которые помещаются в полтора гигабайта и работают сносно даже на бюджетных аппаратах. Средний класс (6–8 ГБ ОЗУ) уже спокойно тянет Llama 3 8B или Mistral 7B в квантизации Q4 — это рабочая лошадка ролёвки, проверенная тысячами пользователей. Флагманы с 12+ ГБ замахиваются на модели тринадцати миллиардов параметров и даже на специально дотюненные «ролевые» сборки вроде MythoMax или Stheno. Последние, к слову, обучены именно на художественных диалогах и держат характер цепче, чем универсальные собратья.
Не стоит, впрочем, гнаться за размером — модель потяжелее даст более глубокие реплики, но и батарею посадит в два раза быстрее.
Подводные камни офлайн-ролёвки
Идеализировать локальные модели не нужно. Они уступают облачным гигантам по нескольким фронтам. Контекст у мобильных сборок обычно скромный — 4096 или 8192 токена, после чего бот начинает «забывать» начало истории. Лечится это лорбуками и краткими сводками, но это требует возни. Скорость генерации на телефоне колеблется от двух до десяти токенов в секунду — для сравнения, ChatGPT выдаёт пятьдесят и выше. Цензура у локалок практически отсутствует (что для кого-то плюс, для кого-то минус), но и качество фильтрации логики тоже хромает: бот может выдать чушь с серьёзным лицом. Ну, а нагрев устройства — отдельная песня. После часа активной ролёвки телефон становится тёплым, как свежеиспечённая булка.
Как настроить характер бота?
С чего начинается живой персонаж? С хорошей карточки. Это текстовый блок, где прописано имя, возраст, внешность, манера речи, характер, предыстория, отношения с пользователем. Чем подробнее — тем стабильнее бот держит образ. Полезно добавить пример диалога (буквально два-три обмена репликами в нужном стиле) — модель ухватывает интонацию и копирует её. Не скупитесь на детали: упомяните любимую еду персонажа, мелкие привычки, фобии, тики. Кладезь идей можно подсмотреть на тематических ресурсах, но самые живые характеры всё-таки рождаются из головы автора. К слову, температуру (параметр случайности) для ролёвки обычно ставят в районе 0.8–1.1 — это даёт нужную долю непредсказуемости без скатывания в бред.
Батарея и нагрев
Отдельно стоит упомянуть энергопотребление. Локальный инференс — это нагрузка на процессор и иногда на видеоядро, сравнимая с тяжёлой 3D-игрой. Час непрерывной ролёвки съедает 30–50% заряда среднего смартфона. Лайфхак простой: если планируется долгая сессия в дороге, лучше подключить пауэрбанк заранее, а не когда устройство уже взмолится о пощаде. Снизить нагрузку помогает выбор модели полегче и уменьшение количества токенов на ответ. И ещё момент — не стоит запускать офлайн-ролёвку в жару под прямым солнцем. Телефон уйдёт в троттлинг, скорость генерации упадёт до черепашьей.
Этика и здравый смысл
Локальные модели соблазнительны именно своей вседозволенностью. Никаких корпоративных фильтров, никаких уведомлений о нарушениях. Но это не означает, что можно отключить голову. Ролёвка — инструмент творческий, и относиться к нему стоит с уважением. Не стоит подменять реальное общение бесконечными диалогами с ИИ — обе стороны медали тут видны невооружённым глазом.
Бот не заменит друга, психолога или партнёра. Зато он отлично работает как соавтор, тренажёр сценариста, способ отвлечься или продумать сложный диалог перед важным разговором.
В этих ролях офлайн-ИИ заслуживает истинного уважения.
Что выбрать новичку?
Если хочется начать прямо сейчас и без головной боли — Layla AI или ChatterUI на смартфон. Первый проще, второй гибче. Любителям копаться в настройках — PocketPal AI или MLC Chat. Владельцам ноутбуков — связка KoboldCpp + SillyTavern, классика жанра. А тем, кто только присматривается, можно посоветовать сначала скачать Phi-3 Mini и попробовать вкус локального ИИ на самой скромной модели. Распробуете — двинетесь дальше, к более тяжёлым сборкам и продвинутым интерфейсам.
Офлайн-ролёвка с ботами прошла путь от экзотики до вполне доступного развлечения буквально за пару лет. Сейчас для входа достаточно среднего смартфона, пары часов на настройку и щепотки фантазии. Удачи в создании собственных миров — пусть ваши персонажи получаются живыми, истории захватывающими, а связь с интернетом больше не диктует, когда можно мечтать, а когда нет.
