Нейросети на cloud.ru
Эта статья немного отходит от принципов бесплатного ПО, так как посвящена вопросу возможности оплаты и использования различных LLM через API. Но больно уж эта тема актуальная. И сегодня я расскажу как можно абсолютно легально попробовать возможности массы самых различных LLM.
Конечно большинство из нас уже давно использует различные LLM абсолютно бесплатно, зарегестрировавшись на сайте нейросети и открыв чат с ней непосредственно в браузере. Например, тот же DeepSeek. И такой способ конечно очень хорошо подходит, когда надо быстро ознакомиться с какой-либо темой, и возможно даже получить пример кода или нарисовать небольшой логотип.
Но когда речь идет о по-настоящему мощных возможностях, когда вы хотите с помощью нейросети разработать какой-то программный продукт, анализировать файлы находящиеся на вашем компьютере, создать презентацию опять таки на основе каких-то файлов, то тут уже не обойтись без программы-агента, которая будет делать некоторую подготовительную работу по вашему запросу и уже потом взаимодействовать по некоему API с самой LLM. И вот этот доступ по API как раз таки и является платным. И все бы ничего, но на текущий момент, как мы знаем, доступ ко многим зарубежным сервисам сильно ограничен, особенно когда речь идет об оплате.
И тут нам поможет облачная платформа cloud.ru, которая помимо всех прочих облачных сервисов, предоставляет доступ и к различным языковым моделям по API. Если взглянуть, что говорит википедия о cloud.ru, то увидим, что компания ранее входила в экосистему сбера. И это дает хоть какую-то уверенность в ее надежности.
Процесс получения доступа к моделям достаточно простой, но не сказать что очевидный. Первым делом конечно же нужно зарегестрироваться. Этот процесс достаточно простой и всем знакомый, поэтому останавливаться на нем не буду. Далее заходим в личный кабинет по кнопке в верхнем правом углу. Сразу скажу, что для любые действия в личном кабинете начинаются с нажатия на квадратик с кучей точек, который находится в верхнем левом углу личного кабинета. Далеко неочевидный момент.
После нажатия на эту кнопку открывается огромная портянка меню в которой тоже очень легко потеряться.
Но обо всем по порядку. Следующее, что мы можем сделать, это ознакомиться со списком доступных моделей. Для этого вот в том самом большом меню выбираем AI Factory -> Foundation Models
В результате откроется огромный список доступных моделей. Специально уменьшил масштаб, но и то только половина наверное влезла.
Модели деляться на внутренние
И внешние
Насколько я понял, внутренние модели развернуты на серверах cloud.ru, и при обращении к ним по API информация не выходит за пределы этих серверов. А в случае внешних моделей cloud.ru выступает как своего рода прокси и переадресует запрос на сервера владельца модели.
Также мы видим, что здесь указаны цены за входящие и генерируемые токены. Советую внимательно отнестись к этому моменту. В какой-то момент решил попробовать Claude Opus, который у всех на слуху, дал простую задачку, но когда увидел, что он уже отожрал у меня 500 рублей, а ответ еще даже не начал писать, пришлось срочно прервать процесс, а деньги списать в убытки.
По кнопке Использовать открывается окно с инструкцией по использованию модели. Нас здесь интересует ссылка на документацию по созданию API ключа и url провайдера. Остальное не нужно, если только вы не собираетесь писать приложение, которое будет взаимодействовать с нейросетью. И конечно не надо потом сохранять сгенерированный API-ключ ни в какую переменную окружения.
Теперь надо воспользоваться ссылкой на документацию по созданию API-ключа и сгенерировать его. Документация достаточно хорошая и пересказывать ее смысла не имеет. Единственное, что хочется подчеркнуть, это не забыть скопировать и сохранить сгенерированный ключ, так как после закрытия окна с ним, вы больше не сможете никаким образом его получить и придется проделывать процесс генерации заново. Также не надо генерировать отдельный ключ под каждую модель. Один можно использовать для работы с любой из них.
Последним этапом необходимо прописать url провайдера и API-ключ в приложении-агенте, который будет взаимодействовать непосредственно с LLM. И вот ссылка на документацию, где описано как проделать это в плагине для VSCode
давайте коротко рассмотрим преимущества, которые дает использование нейросетей через такого агрегатора.
- Большое количество моделей. Если вы еще не опрделились с тем, какую нейросеть вы будете использовать постоянно, то здесь есть возможность перепробовать большое их количество не оплачивая месячную подписку за каждую.
- Легальность и возможность платить отечественными картами. Не надо искать никакие обходные пути для оплаты с риском нарваться на мошенников.
- Разовое использование. Если вы не планируете активно пользоваться доступом к нейросети по API, а вам надо просто сделать какую-то разовую работу с ее помощью, то наверное нет смысла оплачивать подписку на месяц, а можно воспользоваться таким вот облачным сервисом.
Из недостатков предполагаю, что это цена. Как минимум на внешние модели. То есть если месяц пользоваться топовыми моделями, которые есть на рынке, то возможно, что дешевле будет месячная подписка на них.
И в заключение, хочу посоветовать не забывать следить за расходами. Так как токены могут расходоваться очень быстро. Информацию о расходах можно смотреть в личном кабинете. Для этого жмем Кнопка с точками -> Контроль затрат -> Потребление.
