Optimization Algorithm

Bir optimizasyon algoritması, makine öğrenimi (ML) ve derin öğrenme (DL) modellerinin eğitim sürecini yönlendiren temel hesaplama motoru olarak görev yapar. Birincil sorumluluğu, tahmini sonuçlar ile gerçek hedefler arasındaki hatayı en aza indirmek için dahili model ağırlıklarını ve sapmaları yinelemeli olarak ayarlamaktır. Bu süreci, vadideki en düşük noktaya ulaşmak için sisli bir dağdan aşağı inmeye çalışan bir dağcı olarak hayal edebilirsin. Optimizasyon algoritması, kayıp fonksiyonunun en aza indirildiği ve modelin tahmine dayalı doğruluğunun en üst düzeye çıkarıldığı duruma karşılık gelen en alt noktaya ulaşmak için dağcının atması gereken adımın yönünü ve boyutunu belirleyen rehber görevi görür.

Link to this sectionOptimizasyon Algoritmaları Nasıl Çalışır#

Bir sinir ağının eğitimi, tahmin, hata hesaplama ve parametre güncellemelerinden oluşan tekrarlayıcı bir döngü içerir. Optimizasyon algoritması, bu döngünün "güncelleme" aşamasını kontrol eder. Bir eğitim verisi grubu işlendiğinde, sistem geriye yayılım adı verilen bir yöntem kullanarak gradyanı, yani hatadaki en dik artış yönünü gösteren vektörü hesaplar.

Ardından iyileştirici (optimizer), hatayı azaltmak için model parametrelerini gradyanın ters yönünde günceller. Bu güncellemenin büyüklüğü, öğrenme oranı olarak bilinen kritik bir hiperparametre tarafından yönetilir. Adım çok büyükse, model global minimumu geçebilir; çok küçükse, eğitim aşırı yavaşlayabilir veya bir yerel minimumda takılı kalabilir. Stanford CS231n optimizasyon notları gibi gelişmiş kaynaklar, bu dinamikler hakkında daha derin teknik bilgiler sunar.

Link to this sectionYaygın Optimizasyon Algoritması Türleri#

Farklı problemler farklı stratejiler gerektirir. Birçok varyasyon olsa da, modern yapay zeka geliştirmede birkaç temel algoritma öne çıkar:

• Stokastik Gradyan İnişi (SGD): Tüm veri kümesi yerine tek bir örnek veya küçük bir yığın kullanarak parametreleri güncelleyen klasik bir yaklaşım. Bu yöntem hesaplama açısından verimlidir ve Scikit-learn gibi kütüphanelerde yaygın olarak kullanılır.
• Adam İyileştiricisi: Adaptive Moment Estimation (Uyarlanabilir Moment Tahmini) anlamına gelen Adam, öğrenme oranını her parametre için ayrı ayrı ayarlar. Kingma ve Ba tarafından hazırlanan ufuk açıcı Adam araştırma makalesinde ayrıntılı olarak açıklanmıştır ve hızı ve yakınsama özellikleri nedeniyle genel amaçlı eğitim için genellikle varsayılan seçimdir.
• AdamW: Ağırlık azalmasını (weight decay) gradyan güncellemesinden ayıran ve daha iyi genelleme sağlayan bir Adam varyasyonudur. Bu, Transformer modelleri ve yüksek performanslı Ultralytics YOLO26 modelleri gibi son teknoloji mimarileri eğitmek için sıklıkla tercih edilen iyileştiricidir.

Link to this sectionGerçek Dünya Uygulamaları#

Optimizasyon algoritmaları, neredeyse her başarılı yapay zeka çözümünün arka planında sessizce çalışarak verileri eyleme dönüştürülebilir zekaya dönüştürür.

1. Otonom Araçlar: Kendi kendine sürüş teknolojisinde, nesne algılama sistemleri yayaları, trafik ışıklarını ve diğer araçları anında tanımalıdır. Otomotivde Yapay Zeka sistemlerinin eğitimi sırasında, bir optimizasyon algoritması milyonlarca yol görüntüsünü işleyerek ağı algılama hatalarını en aza indirecek şekilde hassaslaştırır. Bu, araç bir insan gördüğünde güvenilir bir şekilde durmasını sağlayarak kazaları önler.

2. Tıbbi Görüntü Analizi: MRI taramalarındaki tümörlerin tanımlanması gibi Sağlık Hizmetlerinde Yapay Zeka uygulamalarında hassasiyet tartışmaya kapalıdır. İyileştiriciler, Evrişimli Sinir Ağlarının (CNN'ler) eğitimine rehberlik ederek kötü huylu dokuyu sağlıklı dokudan yüksek hassasiyetle ayırt etmelerini sağlar ve kritik teşhislerde yanlış negatif riskini azaltır.

Link to this sectionİlgili Kavramları Ayırt Etme#

İş akışını etkili bir şekilde anlamak için optimizasyon algoritmasını öğrenme sürecinin diğer bileşenlerinden ayırmak önemlidir.

• Optimizasyon Algoritması ile Kayıp Fonksiyonu karşılaştırması: Kayıp fonksiyonu, modelin tahminlerinin ne kadar hatalı olduğunu temsil eden sayısal bir değer (örneğin Ortalama Kare Hata) hesaplayan "skorbord" görevi görür. Optimizasyon algoritması ise bu skoru kullanarak ağırlıkları ayarlayan ve sonraki turda performansı artıran "stratejisttir".
• Optimizasyon Algoritması ile Hiperparametre Ayarlama karşılaştırması: Optimizasyon algoritması, eğitim döngüleri sırasında dahili parametreleri (ağırlıkları) öğrenir. Hiperparametre ayarlama, eğitim başlamadan önce iyileştirici seçimi, yığın boyutu veya başlangıç öğrenme oranı gibi en iyi harici ayarların seçilmesini içerir. Ray Tune gibi otomatik araçlar genellikle bu harici ayarların en uygun kombinasyonunu bulmak için kullanılır.

Link to this sectionPython ile Optimizasyonu Uygulama#

In modern frameworks, selecting an optimization algorithm is often done via a single argument. The following example demonstrates how to train a YOLO26 model using the AdamW optimizer within the ultralytics package. Users can also leverage the Ultralytics Platform for a no-code approach to managing these training sessions.

from ultralytics import YOLO

# Load the latest YOLO26 model (recommended for new projects)
model = YOLO("yolo26n.pt")

# Train the model using the 'AdamW' optimization algorithm
# The optimizer iteratively updates weights to minimize loss on the dataset
results = model.train(data="coco8.yaml", epochs=5, optimizer="AdamW")

Daha düşük seviyeli mekaniklerle ilgilenenler için, PyTorch İyileştiricileri ve TensorFlow Keras İyileştiricileri gibi çerçeveler, bu algoritmaların özel araştırma mimarileri için nasıl uygulanacağı ve özelleştirileceği konusunda kapsamlı belgeler sunar.