LLM modelleri iPhone’a geliyor
ChatGPT ve Claude gibi LLM tabanlı sohbet botları inanılmaz derecede veri ve belleğe ihtiyaç duyuyor. Sohbet botlarının genellikle çalışması için çok büyük miktarda bellek ihtiyacı, sınırlı bellek kapasitesine sahip iPhone’lar gibi cihazlar için bir sorun. Yapay zeka modelinin verileri depolamak için flash belleği (uygulamalar ve fotoğrafların bulunduğu belleğin aynısı) kullanmasıyla bu sorunun çözüleceği belirtildi.
Yeni bir araştırma makalesinde, büyük dil modellerinin eğitilmesinde, mobil cihazlardaki flash depolamanın geleneksel olarak kullanılan RAM’den daha verimli olduğu belirtiyor. Bulunan yöntem, veri aktarımını en aza indirip flash bellek verimini en üst düzeye çıkaran iki temel tekniği kullanarak sınırlamaları kaldırmak: Windowing ve Row-Column Bundling. Birincisinde yapay zeka modeli, her seferinde yeni veriler yüklemek yerine halihazırda işlediği verilerin bir kısmını yeniden kullanıyor. Bu, sürekli bellek alma ihtiyacını azaltarak süreci daha hızlı ve sorunsuz hale getiriyor. İkincisinde veriler daha verimli bir şekilde gruplandırılarak flash bellekten daha hızlı okuması sağlanıyor, bu da yapay zekanın dili daha hızlı anlayıp oluşturması demek.
iOS 18, yapay zeka güncellemesi olacak
Yapay zeka verimliliğindeki atılım, yeni iPhone’lar için daha gelişmiş Siri yetenekleri, gerçek zamanlı dil çevirisi ve fotoğrafçılık ile artırılmış gerçeklikte gelişmiş yapay zeka destekli özellikler gibi yeni olanakların kapısını açacak. Teknoloji aynı zamanda iPhone’ların cihaz üzerinde karmaşık yapay zeka asistanlarını ve sohbet botlarını çalıştırmasına da zemin hazırlıyor. Apple’ın üretken yapay zeka üzerindeki çalışmaları eninde sonunda Siri’ye dahil edilecek. Apple’ın Siri’nin yapay zeka ile derinlemesine entegre olan daha akıllı bir versiyonu üzerinde çalıştığı da biliniyor.
Apple’ın “Ajax” adı verilen kendi üretken yapay zeka modelini geliştirdiği bildiriliyor. OpenAI’nin GPT-3 ve GPT-4’üne rakip olarak tasarlanan Ajax, 200 milyar parametre üzerinde çalışıyor. iOS 18 çıktığında iPhone ve iPad’in bir tür üretken yapay zeka özelliğine sahip olacağı iddia ediliyor.