NVIDIA щойно випустила свої найновіші системи GB300 NVL72. Вони можуть обробляти в 50 разів більше роботи на мегават електроенергії порівняно зі старішою платформою Hopper. Це означає, що витрати знижуються в 35 разів на кожен оброблений фрагмент інформації.
Signal65 провела окреме тестування GB200 NVL72 і виявила, що він обробляє понад 10 разів більше інформації на ват, скорочуючи витрати до однієї десятої від попередніх.
Покращення продовжуються. Лише оновлення бібліотеки TensorRT-LLM від NVIDIA забезпечили GB200 п'ятикратне підвищення продуктивності всього за чотири місяці для завдань, що потребують миттєвих відповідей. Команди, які працюють над інструментами Dynamo, Mooncake та SGLang, підвищують ефективність ще більше.
Ці інструменти керовані ШІ виходять з ладу, якщо є затримка або вони не можуть запам'ятати достатньо контексту. Компаніям потрібно, щоб вони фактично працювали в реальних бізнес-ситуаціях, а не лише в демонстраціях.
Інструменти штучного інтелекту, які пишуть код і працюють як цифрові помічники, зараз становлять майже половину всіх пошукових запитів, пов'язаних зі штучним інтелектом, порівняно з лише 11% рік тому.
Ці цифри взяті зі звіту State of Inference від OpenRouter і показують, як швидко змінюється ситуація в цій сфері.
Цей раптовий стрибок змушує компанії поспішно створювати апаратне забезпечення, яке може встигнути. Ці ШІ-агенти повинні негайно реагувати та запам'ятовувати контекст з цілих програмних проєктів, що створює серйозні вимоги до обчислювальної потужності.
Вибух ринку підживлює боротьбу технологічних гігантів за домінування
Задіяні гроші величезні. Ринок ШІ-агентів коштував 4,92 мільярда доларів у 2024 році. Прогнози оцінюють його в 6,016 мільярда доларів на 2025 рік, а потім він роздується до 44,97 мільярда доларів до 2035 року. Це 22,28% зростання щороку протягом наступного десятиліття. Банки, лікарні, магазини та фабрики є першими, хто впроваджує.
Компанії впроваджують цих агентів у системи управління клієнтами, інструменти планування та налаштування безпеки, щоб заощадити гроші та зробити більше. Те, що починалося як опціональна технологія, стає базовою інфраструктурою.
Як повідомляє Cryptopolitan, Alibaba щойно запустила Qwen3.5, орієнтовану на китайський ринок, стверджуючи, що витрати на обробку на 60% нижчі, ніж раніше. Модель може дивитися на екрани та виконувати завдання на телефонах і комп'ютерах. Вона йде лоб у лоб з додатком Doubao від ByteDance, а також очікується оновлення DeepSeek.
OpenAI найняла Peter Steinberger 15-го числа. Він створив OpenClaw, ШІ-агент з відкритим вихідним кодом. Генеральний директор Sam Altman сказав, що Steinberger очолить роботу над особистими агентами наступного покоління, і назвав його генієм з чудовими ідеями щодо розумних помічників, які можуть виконувати корисні речі.
Криза талантів, яку ніхто не може вирішити
94% бізнес-лідерів кажуть, що їм бракує навичок зі штучного інтелекту. До 2028 року 44% очікують, що все ще матимуть дефіцит від 20 до 40%. Workera каже, що ці прогалини можуть коштувати світовій економіці 5,5 трильйона доларів у 2026 році через затримані продукти, проблеми з якістю та втрачені продажі.
Зараз попит на таланти зі штучного інтелекту перевищує пропозицію в співвідношенні 3,2 до одного у всьому світі. Робота зі штучним інтелектом платить на 67% більше, ніж звичайні позиції в програмному забезпеченні. Проте 85% офісних працівників вивчають цей матеріал у свій вільний час, а 83% кажуть, що вони в основному навчаються самостійно замість того, щоб отримувати формальне навчання.
Коли компанії купують інструменти штучного інтелекту у спеціалізованих постачальників, вони досягають успіху в 67% випадків. Внутрішні розробки працюють лише приблизно в третині випадків.
Salesforce зафіксувала зростання агентів на 119% на початку 2025 року і перевищила 500 мільйонів доларів у регулярних доходах від цих продуктів. Вони додали 6 000 корпоративних клієнтів за три місяці.
Компанії, ймовірно, купуватимуть рішення замість того, щоб будувати їх. Це вказує на концентрацію ринку навколо кількох великих гравців, які можуть надати те, що дійсно працює.
Джерело: https://www.cryptopolitan.com/nvidia-new-chips-to-cut-costs-by-35x/
