Бывают вечера, когда интернет обрывается на самом интересном месте: поезд ныряет в тоннель, дача оказывается в зоне без покрытия, а в самолёте Wi-Fi либо платный, либо никакой. И что же делать человеку, привыкшему отыгрывать сцены с ИИ-персонажами, писать совместные истории и вживаться в роли? Сидеть и грустно листать галерею — занятие довольно скучное. К слову, современные нейросети уже научились работать прямо на смартфоне, без серверов и облаков. А значит, полноценная ролёвка с ботом возможна даже в режиме «полёта». Но чтобы выбрать приложение под себя, стоит разложить всё по полочкам.
Что вообще такое офлайн-ролка?
Ролевая игра с ботом — это текстовое взаимодействие, где пользователь отыгрывает персонажа или самого себя, а нейросеть оживляет собеседника. Раньше такое было роскошью облачных сервисов. Сейчас — реальность кармана. Суть в том, что языковая модель целиком загружается в память устройства и работает на его процессоре. Ни единого байта наружу.
Ведь именно это и привлекает: приватность, отсутствие цензуры чужого сервера, независимость от сети. И, что немаловажно, нулевые счета за подписку.
Почему люди уходят в офлайн?
Причин хватает. Во-первых, приватность: переписка с виртуальным спутником порой бывает настолько личной, что мысль о хранении логов на чужих серверах отбивает всё желание писать. Во-вторых, стабильность — облачный сервис может внезапно ужесточить фильтры, и любимый персонаж из дерзкого пирата превратится в вежливого библиотекаря. В-третьих, экономия: месячная подписка на популярные сервисы бьёт по бюджету ощутимо, особенно если пользоваться регулярно. Ну и, конечно же, свобода творчества. Локальная модель не читает нотаций, не прерывает сцену на полуслове, не требует переформулировать запрос. А ещё — работает в самолёте, метро, деревне у бабушки и в походе за грибами.
Железо: на чём это вообще потянет?
Задача не из лёгких. Полноценные большие модели весят десятки гигабайт и требуют видеокарту уровня игровой станции. Но за последние пару лет появились квантованные версии (урезанные по точности, но сохранившие «мозги»), которые влезают в 3–8 гигабайт оперативки. Современный смартфон с 8–12 ГБ ОЗУ и чипом уровня Snapdragon 8 Gen 2 или Apple A16 тянет модель на 7–8 миллиардов параметров вполне бодро. Отвечает она, конечно, не мгновенно — пара секунд на фразу, иногда дольше. Но для вдумчивой ролёвки, где каждое слово отыгрывается, этого более чем достаточно. Старые аппараты с 4 ГБ памяти тоже не остаются за бортом — им подойдут облегчённые модели на 1–3 миллиарда параметров, пусть и с более простыми ответами.
Надоели сериалы и однотипные игры? 🎬
Попробуйте текстовые ролевые игры с ИИ-персонажами — это как интерактивная книга, где главный герой вы сами. Никакого пассивного просмотра: вы говорите, действуете и влияете на сюжет. ИИ подыгрывает в роли персонажа и ведёт историю дальше — увлекает не хуже любимого сериала, только теперь главный — вы.
Попробовать новый формат 👉 https://clck.ru/3Ta8kQ
PocketPal AI
Пожалуй, самый дружелюбный вариант для новичка. Приложение бесплатное, с открытым кодом, доступно и на Android, и на iOS. Внутри — встроенный каталог моделей с HuggingFace: выбрал, скачал, запустил. Есть готовые пресеты персонажей, возможность задавать системный промт (то есть описание характера бота, его биографию, манеру речи) и сохранять сценарии. Интерфейс минималистичный, без рекламы и лишних окошек. Работает ли всё это без интернета? Да, после загрузки модели сеть уже не нужна. Удобная штука для тех, кто хочет попробовать локальный ИИ без танцев с бубном.
ChatterUI
Приложение для Android, которое многие ролевики считают настоящим спасательным кругом. Почему? Потому что оно заточено именно под длинные ролёвки с персонажами. Поддерживает карточки персонажей в формате, совместимом с SillyTavern (той самой легендарной оболочкой для ИИ-чатов). Это значит, что тысячи готовых героев из интернета — от эльфийских принцесс до циничных детективов — подгружаются парой тапов. Есть настройка температуры, штрафов за повторы, длины контекста. Для знатоков — раздолье. Для новичка — чуть запутанно, но интуиция подскажет. К тому же разработчик обновляет ChatterUI регулярно, прислушиваясь к сообществу.
Layla
А вот и платный игрок на сцене. Layla — коммерческое приложение, позиционирующее себя как «личный ИИ-компаньон» без цензуры. Львиная доля её аудитории — именно ролевики, писатели и те, кому нужен собеседник без ограничений. Модели подбираются автоматически под мощность устройства, есть голосовой ввод и озвучка ответов, встроенные миры и сюжеты. Кошелёк станет легче — разовая покупка или подписка, зависит от версии. Но за эти деньги пользователь получает отшлифованный интерфейс, техподдержку и постоянные обновления. Стоит ли переплачивать, если есть бесплатные аналоги? Вопрос вкуса. Кому-то дорого время, кому-то — функции из коробки.
MLC Chat
Решение для тех, кто любит покопаться. MLC Chat — проект от команды энтузиастов, заточенный под максимальную скорость работы нейросетей на мобильных чипах. Оптимизация такая, что модель на 7 миллиардов параметров выдаёт ответ за три-четыре секунды даже на прошлогоднем флагмане. Интерфейс аскетичный. Карточек персонажей как таковых нет — всё через системный промт. Зато скорость и экономия батареи радуют. Приложение бесплатное, доступно для обеих крупных мобильных платформ. Идеальный вариант для экспериментаторов, которым важнее производительность, чем антураж.
Private AI и другие малыши
Нельзя не упомянуть и менее известные проекты. Private AI, Maid, Sherpa — эти приложения заметно проще по функционалу, но свою нишу держат крепко. Maid, к примеру, делает упор на красивый интерфейс с аватарками, Sherpa — на минимализм и скорость. Каждое из них можно попробовать бесплатно и выбрать то, что по душе. Ведь универсального лидера в этой сфере пока нет — экосистема только формируется.
А как выбрать модель?
С чего начинается выбор? С определения задач. Для лёгкой болтовни и коротких сцен хватит модели на 3 миллиарда параметров — вроде Phi-3 mini или Gemma 2B. Они шустрые, нетребовательные, но в длинные драматические сцены играть с ними скучновато — память коротковата, персонаж забывает детали через пять реплик. Для серьёзной ролёвки подойдут семёрки: Llama 3.1 8B, Mistral 7B, Qwen 2.5 7B.
Отдельно стоит упомянуть файнтюны — это модели, дообученные энтузиастами специально под ролёвку. Названия вроде MythoMax, Stheno, Fimbulvetr давно на слуху у сообщества. Именно они творят чудеса в отыгрыше эмоций и держат характер персонажа десятками сцен подряд.
Карточки персонажей: сердце ролёвки
Изюминка хорошей ролёвки — проработанный герой. Карточка персонажа — это текстовый файл, где прописаны имя, внешность, характер, предыстория, манера речи, отношения с игроком. Формат называется Character Card V2, и его поддерживают почти все серьёзные офлайн-приложения. Огромные библиотеки таких карточек лежат на специализированных сайтах (Chub, JanitorAI-архивы, всевозможные тематические форумы). Скачал файл, импортировал — и вот перед тобой полностью живой собеседник с собственной биографией. Кстати, ничто не мешает написать карточку самому. Это увлекательно и довольно просто, если есть хотя бы базовое представление о драматургии.
Подводные камни локального ИИ
Разумеется, у медали есть и обратная сторона. Батарея у смартфона садится ощутимо быстрее — генерация текста греет процессор не хуже тяжёлой игры. Память устройства забивается: одна модель — минимум три-четыре гигабайта, а хранить хочется несколько. Ответы иногда зависают на полуслове или уходят в петли повторов — это характерная особенность маленьких моделей, их приходится дообучать промтами и настройками. А ещё качество диалога всё-таки уступает гигантам уровня GPT-4 или Claude. Зато — полная свобода и никаких подписок.
Несколько советов напоследок
Не стоит сразу гнаться за самой крупной моделью — лучше начать с 3B, освоить интерфейс, понять механику, а уж потом ставить семёрку. Не стоит забывать про охлаждение: телефон в чехле под одеялом при часовой генерации может перегреться. Лучше отказаться от идеи запускать ИИ на аппарате с 3 ГБ памяти — приложение будет падать, а нервы трепаться.
И ещё: системный промт — это фундамент. Чем подробнее описан персонаж, его мир и правила общения, тем живее получится история. Пара абзацев вдумчивого описания творит чудеса там, где скупое «ты — эльф» выдаёт картонного болванчика.
Локальный ИИ в смартфоне — больше не экзотика, а рабочий инструмент для писателей, ролевиков и просто любителей поболтать с необычным собеседником. Буквально пару лет назад это было уделом гиков с мощными ПК, а сейчас достаточно телефона и получаса на настройку. Остаётся лишь выбрать приложение по душе, скачать пару моделей про запас и отправиться в долгое путешествие без сети — там, где только ты, герой твоей истории и бесконечная дорога сюжета. Удачи в создании своего первого спутника — пусть он запомнится надолго.
