Nvidia kehittää uutta tekoälysirua
Nvidia valmistautuu julkaisemaan uuden tekoälysirun, joka on suunniteltu erityisesti nopeuttamaan AI-mallien vastauksia.
Yhtiön toimitusjohtaja Jensen Huang esittelee sirun todennäköisesti ensi viikolla GTC-kehittäjäkonferenssissa. Uusi prosessori keskittyy niin sanottuun inference-vaiheeseen, jossa valmiit tekoälymallit tuottavat vastauksia käyttäjille.
Sirun kehitys liittyy Nvidian noin 20 miljardin dollarin sopimukseen, jossa se palkkasi AI-siruyhtiö Groqin perustajat ja teknologiaa. Groq kehittää erityisiä LPU-prosessoreita, jotka on suunniteltu käsittelemään kielimalleja nopeasti.
Nvidian aiempi strategia perustui siihen, että sama GPU-siru toimii sekä tekoälymallien kouluttamisessa että niiden käytössä. Nyt yhtiö kehittää erikoistuneempia siruja, koska kilpailijat ja suuret teknologiayhtiöt rakentavat omia AI-prosessoreitaan.
Kilpailu AI-siruista on kiristynyt, kun esimerkiksi Google ja Meta kehittävät omia ratkaisujaan tekoälyn käyttöön.