Когда это нужно
Есть данные, которые нельзя отправлять в чужое облако: медицинские, юридические, персональные, коммерческая тайна. Иногда это требование закона, иногда — договора с клиентом.
Вторая причина — деньги. Облачная модель берёт плату за каждое обращение. На больших объёмах — разбор всей переписки, обработка документов пачками — счёт растёт вместе с использованием, а свой сервер стоит одинаково.
Что нужно понимать заранее
- Модели послабее. То, что помещается на разумный сервер, уступает лучшим облачным. На классификации и поиске по документам разница почти не заметна, на сложных рассуждениях — заметна.
- Нужно железо. Видеокарта или подходящий сервер. Считаю стоимость до начала, чтобы вы сравнили с облаком честно.
- Это ваша инфраструктура. Её надо обновлять и наблюдать за ней — либо силами вашего админа, либо по подписке на обслуживание.
Часто разумнее смешанная схема: то, что не содержит чувствительных данных, уходит в облако к сильной модели, остальное считается локально. Разложить задачи по этим двум корзинам — часть работы.