Nvidia zarabia krocie na chipach, na których trenuje się sztuczną inteligencję. A teraz oddaje gotowe modele AI za darmo.
Brzmi jak strzał we własną stopę? Niekoniecznie – to sprytna zagrywka.
W czwartek firma pokazała nową generację otwartych modeli Nemotron 3.5. Jedne mają obsługiwać agentów AI w dużych firmach, drugie – działać lokalnie, bez chmury, na zwykłym komputerze. Wspólny mianownik: agenci, którzy pracują w tle i sami wykonują zadania.
Czym jest Nemotron 3.5
Nemotron 3.5 to rodzina otwartych modeli AI od Nvidii, stworzonych pod agentów – czyli systemy, które nie tylko odpowiadają na pytania, ale samodzielnie realizują zadania: korzystają z narzędzi, przeszukują sieć, wykonują wieloetapowe operacje. „Otwarte” oznacza, że firma może pobrać taki model, dotrenować go na własnych danych i uruchomić na swojej infrastrukturze. Nvidia udostępnia dwie linie: większą dla przedsiębiorstw i lżejszą do pracy lokalnej na komputerze.
Super VL — koń pociągowy dla firm
Pierwszy model to Nemotron 3.5 Super VL. 120 miliardów parametrów, zaprojektowany pod agentów w dużych organizacjach.
Co ciekawe, ma mniej parametrów niż wcześniejszy Nemotron 3 Ultra, a – jak twierdzi Nvidia – osiąga podobną dokładność w wykonywaniu poleceń i obsłudze narzędzi. Mniej, a równie skutecznie. To dla firm oznacza niższe koszty działania przy zbliżonych efektach.
Nvidia idzie dalej i zapewnia, że po dotrenowaniu pod konkretne zadania model działa szybciej niż najnowsze modele OpenAI i Anthropic. Chodzi o rzeczy twarde i branżowe: analizę dokumentów, księgowość, eksperymenty naukowe, obsługę roszczeń ubezpieczeniowych w medycynie czy odporność na ataki. Warto zaznaczyć – to benchmarki samej Nvidii, nie niezależne testy.
Na liście firm, które już go używają, są m.in. EY, Ramp, CrowdStrike, Perplexity, Salesforce i Skydance.
Jak ujęła to Kari Briski, wiceprezeska Nvidii ds. otwartych modeli: firmy mogą dotrenować model na swoich danych, postawić go u siebie i „być właścicielami tego, co zbudują”. I to jest sedno – kontrola nad własnym AI zamiast wynajmu cudzego.
Bolt — AI, które działa na twoim komputerze
Druga linia to Nemotron 3.5 Bolt – modele zaprojektowane tak, by chodzić lokalnie, na komputerach z chipem Nvidia RTX Spark i stacjach DGX Spark. Takie maszyny trafiają właśnie na rynek przez partnerów jak Microsoft i Dell.
Są dwa. Bolt 74B-A9B (74 miliardy parametrów) ma radzić sobie z agentową pracą na miejscu – wieloetapowym rozumowaniem, korzystaniem z narzędzi i przeglądaniem sieci. Mniejszy Bolt E4B celuje w agentów konwersacyjnych.
Clue jest w jednym słowie: lokalnie. Jak mówi Briski, użytkownik może zlecić codzienne zadania bez wysyłania ich do chmury. Dane zostają na komputerze.
Dlaczego to ważne
Dla przeciętnego użytkownika najciekawszy jest wątek prywatności. Asystent AI, który grzebie w twoich mailach, plikach i kalendarzu, brzmi wygodnie – dopóki nie pomyślisz, dokąd te dane lecą. Model działający lokalnie rozwiązuje ten dylemat: pomaga, ale nic nie wychodzi na zewnątrz.
Dla firm stawka jest inna. Zamiast płacić abonament za cudze AI i oddawać swoje dane do przetworzenia, mogą postawić własny model u siebie. Własność zamiast wynajmu.
A dla samej Nvidii? To ruch defensywny. Najwięksi gracze AI – jednocześnie jej klienci i spółki, w które inwestuje – coraz śmielej sięgają po konkurencyjne chipy albo projektują własne. Rozdając otwarte modele dopasowane do swojego sprzętu, Nvidia przywiązuje do siebie cały ekosystem. Darmowy model, który najlepiej chodzi na jej kartach.
Kiedy i co dostępne
Super VL oraz Bolt 74B-A9B są dostępne już teraz. Najmniejszy Bolt E4B ma pojawić się jeszcze w tym miesiącu.
źródło: techcrunch.com
Dodaj komentarz