ChatGPT:n kaltaiset generatiiviset tekoälyt ovat siitä mielenkiintoinen ilmiö, että ne tarjoavat pitkästä aikaa laitevalmistajille uuden haasteen. Tietokoneiden ja kännyköiden kehitys on keskittynyt vuosikausien ajan siihen, miten niistä saadaan mahdollisimman edullisia ja vähävirtaisia. Suorituskyvyn kasvattaminen ei ole ollut ensisijaisena tavoitteena enää pitkään aikaan.
Nyt generatiivisten tekoälyjen pullonkaulaksi on muodostumassa laskentakapasiteetti. Näissä tekoälyissä syötteen eli kehotteen kasvattaminen edellyttää laskentakapasiteetin lisäämistä kahden potenssissa. Jos kehotteen pituus nelinkertaistuu, laskentakapasiteettia tarvitaan kuusitoista kertaa enemmän ja niin edelleen. Tämä on ymmärrettävää, koska kehote täytyy käsitellä reaaliaikaisesti aina käyttäjän kysyessä jotain tekoälyltä.
Vuosi sitten ounastelin, että generatiivisten tekoälyjen pääasiallinen käyttötarkoitus olisi automaattisten sisältöehdotusten tuottaminen. Tämä on toteutunutkin siinä mielessä, että GitHubin Copilot tuottaa........