Veriyi işleyip kalıpları öğrenen, ardından yeni içerik üretebilen matematiksel mimarilerdir. Büyük dil modellerinden görüntü tanıma sistemlerine kadar geniş bir yelpazede, her biri farklı bir problemi çözmek için eğitilir. Son dönemdeki sıçrama, parametre sayısının milyarlara ulaşmasıyla "ölçek yasaları"nın beklenmedik şekilde işlemesinden kaynaklandı.