Özel bilgi işlem yeteneklerine yönelik artan talebi karşılayan Amazon, yapay zeka modeli eğitimi ve çıkarım geliştirmede sınırları zorluyor. Hesaplama verimliliğini ve model oluşturma fizibilitesini geliştirmek için yenilikçi çip seti sunan Amazon, geleneksel olarak GPU'ların hakim olduğu bu alanı yeniden tanımlamaya hazırlanıyor.
Teknoloji devi geçtiğimiz günlerde yıllık re:Invent konferansında en son özel çipi AWS Trainium2 tanıttı. Amazon'un raporlarına göre bu ikinci nesil çip, önceki modele göre dört kat daha üstün performans ve iki kat daha fazla enerji verimliliği sunmayı vaat ediyor. Trainium2, AWS bulutunda 16 çipten oluşan kümeler halinde EC Trn2 bulut sunucularında mevcut olacak ve AWS'nin EC2 UltraCluster ürününde 100.000 çipe kadar ölçeklenebilecek ve bu da muazzam ölçeklenebilirliği simgeliyor.
Hesaplama becerisi alanında, 100.000 Trainium çipi 65 exaflop bilgi işlem sunabiliyor. Her Trainium2 çipi potansiyel olarak yaklaşık 200 teraflopluk performans vaat ediyor ve Google'ın 2017'deki AI eğitim çiplerinden önemli bir farkla daha iyi performans gösteriyor. Hesaplama yeteneği ve performans değişkenlerini hesaba katan bu etkileyici yetenek, yapay zeka modeli dağıtımı için benzersiz hesaplama hızı ve gücü sağlayacak şekilde ayarlanmıştır.
Amazon, böyle bir Trainium çip kümesinin, 300 milyar parametreli yapay zeka büyük dil modelinin eğitim süresini aylardan haftalara etkili bir şekilde azaltabileceğini öne sürüyor. Eğitim verilerinden öğrenilen bir yapay zeka modelinin temel parametreleri, esasen modelin metin veya kod oluşturma gibi sorunları çözmedeki yeterliliğini temsil eder.
AWS bilgi işlem ve ağ iletişiminden sorumlu Başkan Yardımcısı David Brown, açılış sırasında yeni geliştirmenin önemini ve etkisini özetledi ve bu tür ilerlemelerin müşterinin iş yükünün yerine getirilmesindeki kritik rolünü ve üretken yapay zekaya artan ilgiyi vurguladı. Ayrıca Trainium2 makine öğrenimi modeli eğitiminin hızını artırma, genel maliyetleri azaltma ve enerji verimliliğini artırma kapasitesini öne çıkardı ancak Trainium2 bulut sunucularının AWS müşterileri için ne zaman kullanıma sunulacağını açıklamadı.
Eş zamanlı olarak Amazon, dördüncü nesil yapay zeka çıkarım çipi Arm tabanlı Graviton4 tanıttı. Amazon'un diğer çıkarım çipi Inferentia bilerek farklı olan Graviton4, önceki modelden etkileyici bir yükseltmeye işaret ediyor; Graviton3 göre %30 daha iyi bilgi işlem performansı, %50 daha fazla çekirdek ve %75 daha fazla bellek bant genişliği sunuyor.
Veri güvenliğini artıran Graviton4 tüm fiziksel donanım arayüzleri, sıkı şifreleme ihtiyaçları olan müşteriler için yapay zeka eğitim iş yüklerinin ve verilerinin koruma düzeyini desteklemek üzere tasarlanmış bir geliştirme olan şifreleme özelliğine sahiptir.
David Brown ayrıca Graviton4 Amazon'un daha önceki tüm tekliflerinden daha üstün olduğunu vurguladı ve çeşitli iş yükleri için tasarlanmış en güçlü ve enerji açısından verimli çip olduğunu belirtti. Teklifleri aracılığıyla en gelişmiş bulut altyapısını sunmak için Amazon'un çip tasarımını gerçek müşteri iş yüklerine odaklama uygulamasını destekledi.
Yeni Graviton4 Amazon EC2 R8g bulut sunucularında yer alacak ve şu anda ön izleme aşamasında mevcut olacak ve önümüzdeki aylarda genel bir sürüm yayınlanması planlanıyor.
AppMaster gibi No-code platformlar, çok sayıda süreci kolaylaştırmak için yapay zeka işlevlerini giderek daha fazla entegre ediyor. Amazon tarafından Trainium2 ve Graviton4 çipleri gibi gelişmiş yapay zeka eğitim çiplerinin geliştirilmesi, potansiyel olarak bu tür platformların yapay zeka tabanlı çözümleri daha etkili ve verimli bir şekilde sunma kapasitesinde bir iyileşmeye işaret ediyor. Bu, özellikle otomasyon ve tasarım optimizasyonu için yapay zekadan yararlanma yeteneklerini artıran, kodsuz tasarım araçları sunan platformlarla ilgili olabilir.
