Сегодня расскажем про функцию, которая уже доступна в Bothub и способна изменить подход к массовой работе с нейросетями. Речь о Batch API — инструменте для асинхронной пакетной обработки данных, который работает с топовыми моделями OpenAI, Anthropic и Google.
Nvidia представила новую бизнес-модель для облачных провайдеров: теперь компания получает не только деньги за проданное железо, но и процент с выручки, которую это железо приносит владельцу. Блог-пост, соавтором которого выступила финансовый директор Колетт Кресс, описывает схему как "модель разделения выручки и кредитной поддержки" — она должна открыть доступ к вычислениям компаниям, которые не в состоянии профинансировать закупку железа самостоятельно.