[aSpeNDos]

OpenAI, Google DeepMind, Anthropic ve Meta'dan gelen 40 araştırmacı yeni yayınladıkları bildiride, yapay zeka muhakeme modellerinde "düşünce zinciri"süreçlerine daha fazla odaklanılması gerektiğini belirtti. Fortune'da yer alan habere göre bildiriye imza atanlar arasında, Elon Musk'ın kurduğu xAI'in güvenlik danışmanı Dan Hendrycks de yazarlar arasında yer alıyor.

DÜŞÜNCE ZİNCİRİ NEDİR?

"Düşünce zinciri" süreci, OpenAI'ın o1'i veya DeepSeek'in R1'i gibi muhakeme modellerinde görülebiliyor. Bu süreç, kullanıcıların ve araştırmacıların bir yapay zeka modelinin "nasıl düşündüğünü" veya "nasıl muhakeme ettiğini" takip etmesine imkân tanıyor. Modelin bir eylem veya cevaba nasıl karar verdiğini ortaya koyarak gelişmiş sistemlerin iç işleyişine dair belli bir şeffaflık sağlıyor.

TAYFUN BLOK-4 hipersonik füzesi dünya basınında: Türkiye kulübe katıldı!Araştırmacılar, bu sistemlerin "insan dilinde düşünmesine izin vermenin" yapay zeka güvenliği açısından benzersiz bir fırsat sunduğunu belirtiyor. Çünkü bu sayede modellerin "kötü niyetli davranma eğilimleri" izlenebilir hale geliyor. Ancak aynı zamanda, modeller geliştikçe "mevcut şeffaflık düzeyinin devam edeceğine dair bir garanti olmadığını" da vurguluyorlar.

Makale, uzmanların bu modellerin neden CoT kullandığını ya da bunu ne kadar süreyle sürdüreceğini tam olarak anlamadığını belirtiyor. Yazarlar, yapay zeka geliştiricilerine bu muhakeme biçimini daha yakından izlemelerini ve bu süreçlerin izlenebilirliğinin ileride yerleşik bir güvenlik mekanizmasına dönüşebileceğini öne sürüyorlar.

YAPAY ZEKA'NIN BABASI DA DESTEKLEDİ

Bildiride şunlar yazıyor:

İlginizi Çekebilir

• "Diğer tüm bilinen denetim yöntemleri gibi CoT izleme de kusursuz değildir ve bazı kötü davranışlar gözden kaçabilir. Yine de umut vericidir ve CoT izlenebilirliği üzerine daha fazla araştırma yapılmasını, mevcut güvenlik yöntemlerinin yanı sıra bu izleme biçimine de yatırım yapılmasını öneriyoruz."

"CoT izleme, öncü yapay zeka modelleri için alınacak güvenlik önlemlerine değerli bir katkı sunuyor ve bu sistemlerin nasıl karar verdiğine dair nadir bir içgörü sağlıyor. Ancak bu görünürlüğün devam edeceğine dair bir garanti yok. Araştırma topluluğunu ve öncü yapay zeka geliştiricilerini, CoT izlenebilirliğinden en iyi şekilde faydalanmaya ve bunun nasıl korunabileceğini incelemeye davet ediyoruz."

Kısa sürede 4 bin 450 TL'yi aşan gram altın için yeni tahminSöz konusu makale, OpenAI'ın kurucu ortağı Ilya Sutskever ve "yapay zekanın babası" olarak anılan Geoffrey Hinton gibi önemli isimler tarafından da desteklendi.

MUHAKEME MODELLERİ NEDİR?

Yapay zeka muhakeme modelleri, insanlarınkine benzer muhakeme süreçlerini taklit etmek ya da yeniden üretmek üzere tasarlanmış modellerdir. Bu süreçler ayrıca bilgiye, mantığa veya öğrenilmiş örüntülere dayanarak karar verme, sonuç çıkarma ya da problem çözmeyi kapsar. Büyük teknoloji şirketlerinin çoğu, yapay zeka alanındaki ilerlemenin anahtarı olarak bu tarz modelleri geliştirmeye ve ölçeklendirmeye yatırım yapmaktadır.

OpenAI, ilk muhakeme modeli olan o1'in ön izlemesini Eylül 2024'te yayımlamıştı. xAI ve Google gibi rakipleri de kısa süre sonra benzer modellerle kamuoyunun karşısına çıkmıştı.

BİRÇOK SORU YANIT BEKLİYOR

Bu gelişmiş modellerin gerçekten nasıl çalıştığı konusunda hala birçok soru işareti bulunuyor. Bazı araştırmalar, muhakeme modellerinin "düşünce zinciri" süreçleriyle kullanıcıları yanlış yönlendirebileceğini dahi öne sürüyor.

KRİTİK TARİH! EMEKLİ MAAŞ ZAM FARKI ÖDEME TARİHLERİ | Emekli Sandığı (4C) maaş zam fark ödemeleri ne zaman, hangi tarihte hesaplara yatacak?
Kaynak ; Milliyet