"Сбер": на создание нейросети нужна энергия, сопоставимая с потребностями города

По словам Ведяхина, затраты "Сбера" на разработки искусственного интеллекта "оказывают существенное влияние на баланс банка и на отчет о доходах и расходах"

"Затраты на обучение больших языковых моделей, к примеру, за рубежом, измеряются десятками, иногда сотнями миллиардов долларов. Это действительно очень существенная инвестиция, и для нас тоже. На обучение большой языковой модели приходится 80% затрат. Это поставка графических процессоров (GPU), на которых осуществляется расчет модели. А также электроэнергия. Электроэнергия для расчета модели сопоставима с потребностями среднего российского города", – заметил первый зампред правления банка.

Помимо стоимости, отметил Ведяхин, для расчета LLM необходимо и время.

"Одна модель может считаться 3-6 месяцев, крупные – 9 месяцев. Все зависит от объема кластера", – пояснил он.

Ведяхин подчеркнул, что быстрый ответ "нейронки" также зависит от средств, вложенных разработчиками в LLM.

"[Чтобы] GigaChat подумал и предложил вам ту или иную рекомендацию, произошло быстрое вычисление и вам был предоставлен быстрый совет, – это тоже, естественно, стоит сколько-то денег. Но в четыре раза дешевле, чем обучение", – заявил он.

Ранее президент России Владимир Путин заявил, что ИИ-помощники должны активно внедряться в управленческие и производственные процессы внутри РФ.

В Сбербанке отмечали, что искусственный интеллект повысит эффективность и производительность каждого сотрудника.