AMD, yapay zeka dünyasında çığır açacak yeni bir model olan Llama-135m’i tanıttı. Bu yeni model, özellikle tahminsel kod çözme özelliği sayesinde RAM kullanımını önemli ölçüde azaltarak, yapay zeka uygulamalarının performansını artırmayı hedefliyor.
Llama-135m, AMD’nin geliştirdiği büyük bir dil modelidir. Bu tür modeller, doğal dil işleme görevlerinde, yani metin üretme, çeviri yapma, soruları yanıtlama gibi birçok alanda kullanılır. Ancak Llama-135m’i diğerlerinden ayıran en önemli özellik, tahminsel kod çözme yeteneğidir.
AMD-135M’nin Temel Özellikleri
AMD-135M, onu piyasadaki diğer modellerden ayıran dikkat çekici özelliklere sahiptir. Bu temel özelliklerden bazıları şunlardır:
- Parametre Boyutu: 135 milyon parametre, metnin verimli bir şekilde işlenmesine ve oluşturulmasına olanak tanır.
- Katman Sayısı: Derinlemesine analiz ve bağlamsal anlayış için 12 dikkat başlığına sahip 12 katman.
- Gizli Boyut: 768, çeşitli dil modelleme görevlerini yerine getirme yeteneği sunar.
- Dikkat Türü: Çok Başlıklı Dikkat, modelin giriş verilerinin farklı yönlerine aynı anda odaklanmasını sağlar.
- Bağlam Penceresi Boyutu: 2048, modelin daha büyük giriş verisi dizilerini etkili bir şekilde yönetebilmesini sağlar.
- Ön Eğitim ve İnce Ayar Veri Kümeleri: Ön eğitim için SlimPajama ve Project Gutenberg veri kümeleri, ince ayar için ise StarCoder veri kümesi kullanılarak kapsamlı dil anlayışı garanti altına alınmıştır.
- Eğitim Yapılandırması: Model, kosinüs öğrenme oranı çizelgesi ile 6e-4 öğrenme oranını kullanır ve etkili eğitim ve ince ayar için birden fazla dönemden geçmiştir.
Yapay zeka modellerinin çalışabilmesi için büyük miktarda veriye ve hesaplama gücüne ihtiyaç vardır. Bu da genellikle yüksek RAM tüketimi anlamına gelir. Tahminsel kod çözme ise, modelin çalışması sırasında hangi verilerin daha önemli olduğunu belirleyerek, gereksiz hesaplamaları azaltır ve böylece RAM kullanımını optimize eder. Bu sayede, daha küçük ve daha verimli modeller oluşturmak mümkün olur.
Llama-135m’in Avantajları
- Daha Yüksek Performans: Tahminsel kod çözme sayesinde Llama-135m, daha az RAM kullanarak aynı veya daha iyi sonuçlar üretir. Bu da yapay zeka uygulamalarının daha hızlı çalışmasını sağlar.
- Daha Küçük Model Boyutu: Modelin daha küçük olması, daha az depolama alanı gerektirir ve daha hızlı eğitime olanak tanır.
- Daha Düşük Enerji Tüketimi: Daha az hesaplama yapması nedeniyle Llama-135m, daha az enerji tüketir. Bu da hem maliyetleri düşürür hem de çevreye duyarlı bir çözüm sunar.
- Daha Geniş Kullanım Alanları: Llama-135m’in yüksek performansı ve düşük maliyeti, modelin daha geniş bir kullanım alanına sahip olmasını sağlar. Örneğin, mobil cihazlar, IoT cihazları ve bulut bilişim gibi alanlarda kullanılabilir.
