Открытые модели стали привлекательны для on-prem: мнение CEO IBM
Во время квартального отчёта о прибылях и убытках Арвинд Кришна сообщил инвесторам, что открытые модели весов теперь имеют реальный смысл для on-prem инфраструктур предприятий.
Он отметил, что в 2024 году закрытые фронтир-модели явно превосходили открытые альтернативы.
«Если вы проводили оценку, какой-то бенчмарк, и он был широкий, не узкий, то топовая модель могла набрать 70 баллов, а открытая модель — 20 или 30».
«В конце 2025 года мы начали видеть, что разрыв сокращается, где, может быть, разрыв был не 70 к 20 или 30, а 70 к 50», — продолжил он.
CEO указал, что открытые модели в настоящее время обеспечивают стоимость токена «где-то от 25 до 10 процентов от стоимости фронтир-моделей. Это очень привлекательно, учитывая, что они теперь эффективны на 90 процентов».
«Это простой вопрос для любого предприятия. Вы хотите что-то, что стоит 10 процентов, если оно на 90 процентов же хорошо, как самое лучшее, или вы хотите платить в 10 раз больше?»
По мнению Кришны, большинство компаний выберут более дешёвый вариант.
«Тогда возникает вопрос: сколько задач это требуют? Я бы сказал вам, что некоторые требуют, но подавляющее большинство — резюмирование письма, изучение контракта, ответ на запрос клиента, составление письма — всё это можно делать так же хорошо с гораздо более дешёвым решением».
CEO отметил, что эти показатели означают, что IBM видит растущий интерес к on-prem AI инфраструктуре. Хотя он полагает, что большинство компаний смогут построить полезную AI инфраструктуру всего в два-три стойки, многие столкнутся с трудностями при её запуске.
«Вопрос становится таким: как это сделать?», — сказал он.
«Вопрос, с которым борется предприятие: 'Где мои инженеры ядра? Где люди, которые беспокоятся об underlying network? Кто может убедиться, что модель кластеризована на GPU, которые близко друг к другу по сетевой близости? Кто может убедиться, что вы делаете правильный кэширование результатов, чтобы получить невероятный отклик?'»
Кришна не предложил готовых ответов, лишь сказав, что IBM будет разрабатывать программное обеспечение, облегчающее развёртывание AI. Он также предсказал, что спрос на on-prem AI будет стимулировать продажи ускорительных карт Spyre для мейнфреймов Big Blue.
CEO отметил, что мейнфреймы текущего поколения z17 принесли на $1 млрд больше дохода, чем любая предыдущая модель, и сказал, что новые стоечные модели компании обеспечили «самый сильный запуск в среднем диапазоне в IBM Z почти за два десятилетия». Однако доход от мейнфреймов упал на 20 процентов — как и ожидалось IBM, поскольку с момента запуска z17 прошло 18 месяцев.
Доход инфраструктурного подразделения IBM вырос на 5 процентов год к году до $3,7 млрд — гораздо медленнее, чем у конкурентов Dell, HPE и Lenovo.
Программное обеспечение показало более значительный рост — 9 процентов до $7,8 млрд за квартал. Red Hat стал звездой, выросший на 11 процентов и увеличив годовой повторяющийся доход на 30 процентов. Часть этого будущего дохода приходится на продукты виртуализации Red Hat, которые теперь завоевали сделок на $800 млн, с трубопроводом ещё $750 млн. Это твёрдый результат для линейки продуктов, запущенной в 2024 году, и IBM полагает, что впереди ещё больше, учитывая возможность перемещения некоторых пользователей VMware.
Общий квартальный доход достиг $17,1 млрд, вверх на 5 процентов. Цена акций IBM колебалась в послечасовой торговле и закончилась на точку-другую ниже.
«Чрезвычайное обслуживание» для IBM Cloud
Другой момент IBM, за которым следит The Register, — это инцидент серьёзности одна в облаке Big Blue, вызванный «чрезвычайным обслуживанием», в результате которого пользователи не могли подготовить новые ресурсы или облачные приватные сети в течение 90 минут. Пользователям IBM Classic Cloud, сервиса, который она приобрела у SoftLayer в 2013 году, сообщили, что Big Blue «восстановит новую подготовку и управление ресурсами в нашей среде Classic» к 08:00 UTC в четверг — это означает, что инцидент продлится минимум 16 часов.
IBM начала эту работу в несколько часов после объявления об критических ошибках в PHP. Мы спросили, является ли исправление этого изъяна причиной инцидента, и обновим этот материал при получении ответа.