Sene bitmeden 20 milyar dolara NVIDIA şirketi, Groq şirketinin bir nevi içini boşalttı. Bütün fikri haklarını ve insan teşkilatını bünyesine kattı. Şirketi de bomboş müşterileri ve iş anlaşmaları ile bıraktı. NVIDIA şirketinin Groq hamlesi şunu söylüyor: Yapay zekânın geleceği yalnızca “eğitimle” kazanılamaz. Dünyayı kasıp kavuran GPU’nun sahibi neden başka bir çip şirketini alma gereği duydu. Bu aslında tarihi sürecin devamı gibi:

Şimdi yeni bir halka ekleniyor: GPU → IPU (Inference Processing Unit). Bu, GPU’ların sonu değil. Ama GPU’ların tek başına yeterli olmadığının bir göstergesi oldu. Çünkü GPU bir İsviçre çakısıysa, çıkarım çipi (inference) bir fabrika bandı gibidir.

Önce yapay zekâ nasıl çalışır, kısa bir açıklayalım. Yapay zekâ önce öğrenir, sonra düşünür! Yapay zekâyı anlamanın en kolay yolu, onu bir insan gibi düşünmektir. Bir insan da iki aşamadan geçer: Öğrenir ve öğrendiğini kullanır. Yapay zekâda bu iki aşamanın adı şudur: Eğitim (Training) ve Çıkarım (Inference). Eğitim nadirdir. Çıkarım süreklidir. Bir dil modeli örneğin ChatGPT veya Gemini:

Aynı bir doktor gibi. Tıp fakültesini bitirmesi = eğitim, hastaya teşhis koyması = çıkarım. Doktorun bir okulu herhangi bir ülkede bir kere bitirmesi yeterlidir. Ama binlerce hastaya bakar ve hastaya bakarken orada olmak zorundadır. Yapay zekâ için de aynı durum geçerlidir.

Groq, yapay zekâ çıkarımı (inference) için baştan aşağı özel bir mimari tasarladı. Bu mimariyi geliştiren ekip, daha önce Google’da TensorFlow’un geliştirilmesinde........

© Medyascope