Förutseende och framsynthet har alltid varit viktigt, men saken ställs på sin spets av dagens skenande AI-utveckling. Trial-and-error har hittills varit en ovärderlig del av teknisk utveckling, för till och med när en uppfinnare misslyckas så kapitalt att hen omkommer i en kraschlandning eller explosion, finns alltid andra som kan ta vid och rätta till designen.

När det gäller det slags övermänskligt kapabla AI som det ledande AI-företaget Anthropics vd Dario Amodei syftar på i sitt tal om att inom ett par år bygga en AI med kompetens motsvarande ”en nation av genier i ett datacenter”, kan vi inte längre lita på denna mekanism, för om AI:n släpps innan vi har säkerställt att dess mål och värderingar är i linje med våra, så är det inte säkert att vi får en andra chans. Trial-and-error räcker inte längre; vi behöver tänka efter före.

Trots att utvecklingskurvorna i dag pekar nästan lodrätt uppåt finns det i AI-debatten, och inte minst bland AI-forskarna själva, grupperingar som ängsligt undviker att tala om vad AI-system inom några år kan vara kapabla till och som insisterar på att enbart förhålla sig till förmågorna hos dagens AI.

Man bör undvika spekulation, heter det ibland, men vi........

© Göteborgs-Posten