SINTEF blant de første i Europa med ny KI-maskin

Maskinen er ASUS’ utgave av NVIDIA DGX Station GB300, og den første fra ASUS i Norden. Ifølge ASUS og leverandøren Nextron er den trolig også den første DGX Station GB300 som i det hele tatt er levert i Norden.

"KI kan endre både hvordan vi driver energiforskning, og hvilke løsninger vi kan utvikle for kundene våre. Vår styrke er kombinasjonen av inngående kunnskap om energisystemet og evnen til å ta ny teknologi i bruk. Med denne investeringen gir vi forskerne større rom for å utforske mulighetene, med mål om bedre forskning og raskere vei fra kunnskap til praktisk nytte”, sier administrerende direktør Inge Røinaas Gran i SINTEF Energi.

Strømsmart datasenter på boks

Maskinen er på størrelse med en kraftig stasjonær PC og bruker omtrent like mye strøm som en panelovn. Med ekstremt stort og hurtig minne kan den likevel kjøre store språkmodeller av den typen som inntil nylig bare fantes i store datasentre.

“Med egen infrastruktur kan forskerne velge KI-modeller som er tilpasset oppgaven de skal løse, i stedet for å sende alle beregninger til globale tjenester som er dimensjonert for millioner av brukere med svært ulike behov. Slik kan vi optimalisere ressursbruken til det arbeidet faktisk krever.” sier Hans Ivar Skjelbred, forskningsleder for faglaget Digitale løsninger i SINTEF Energi.

Se unboxing av den nye maskingen her.

Maskinen skal ikke erstatte skybaserte tjenester. Den skal gi instituttet egen kompetanse og kapasitet, og dermed større handlefrihet i hvordan teknologien tas i bruk. Maskinen skal blant annet brukes i arbeidet med videreutvikling av modellene SHOP, ProdRisk, EMPS og Trident.

"Vi ser at stadig flere virksomheter vil ta i bruk store språkmodeller uten å sende sensitive data ut av huset. At SINTEF Energi er blant de første i Europa til å ta i bruk DGX Station, viser at norske forskningsmiljøer ligger langt fremme. Vi syntes det er spennende at den skal brukes i forskning på framtidens energisystemer", sier Lasse Sandstone, Salgssjef for AI og GPU i Nextron. 

Maskinen er en del av nye SINTEF Intelligence Lab (ILab). Les mer om iLab her. 

Fakta: NVIDIA DGX Station GB300

•        Arbeidsstasjon for utvikling og kjøring av avanserte KI-modeller, basert på NVIDIAs Grace Blackwell-arkitektur.

•        SINTEF Energis maskin er ASUS’ utgave (ExpertCenter Pro ET900N G3). Leverandør: Nextron.

•        Én Blackwell Ultra-grafikkprosessor og én Grace-prosessor med 72 kjerner.

•        748 GB sammenhengende minne, hvorav 252 GB er raskt grafikkminne (HBM3e).

•        Opptil 20 petaFLOPS KI-regnekraft (FP4), ifølge NVIDIA.

•        Kan ifølge NVIDIA kjøre språkmodeller med opptil rundt én billion parametere.

•        Strømforbruk opptil 1,6 kW.