[aSpeNDos]

[Üye Olmadan Linkleri Göremezsiniz. Üye Olmak için TIKLAYIN...]OpenAI'nin güvenlik politikalarıyla ilgili tartışmalar devam ederken, şirketten ayrılan eski bir çalışan dikkat çeken değerlendirmelerde bulundu. OpenAI'de üç yıldan uzun süre görev yapan David Robinson, şirketin güvenlik kültürünün bozulduğunu ve yapay zeka sistemlerine yönelik yaklaşımın ciddi riskler taşıdığını öne sürdü.

Robinson, OpenAI'nin güvenlik konusunda çoğunlukla sorunlar ortaya çıktıktan sonra harekete geçtiğini savundu. Ona göre bu yaklaşım, yapay zeka sistemlerinin giderek daha fazla yetkiye sahip olduğu bir dönemde kaçınılmaz şekilde yeni güvenlik problemlerine yol açabilir.

YAPAY ZEKADA GÜVENLİK SORUNU

Eski OpenAI çalışanı, görüşlerini desteklemek için son dönemde yaşanan çeşitli olaylara dikkat çekti. Bunlardan biri, Temmuz 2026'da bir yapay zeka modelinin Hugging Face altyapısına yönelik gerçekleştirdiği saldırıydı.

Robinson ayrıca daha yakın zamanda yaşanan ve bir yapay zeka ajanını durdurmak için tasarlanan "kill switch" mekanizmasının çalışmadığı olayı da örnek gösterdi.

Robinson'a göre yapay zeka sektöründe kullanılan güvenlik mekanizmaları, olası bir kontrol kaybının sonuçları düşünüldüğünde yeterli düzeyde yedeklilik ve titizlik içermiyor. Özellikle gelişmiş yapay zekâ modellerinin daha fazla otonomi kazanmasıyla birlikte, insanların doğrudan izni olmadan hareket eden çok sayıda yapay zeka ajanının ortaya çıkabileceği konusunda uyarıda bulundu.

Robinson'ın değerlendirmeleri, Anthropic CEO'su Dario Amodei'nin daha önce yaptığı uyarılarla da benzerlik taşıyor. Amodei, en gelişmiş yapay zekâ sistemlerinin geliştirilme hızının yavaşlatılması gerektiğini savunmuştu. Bu yaklaşım, OpenAI CEO'su Sam Altman ve SpaceXAI CEO'su Elon Musk tarafından da desteklenmişti.

OpenAI, ChatGPT'de görsel reklamları test etmeye hazırlanıyorRobinson bu nedenle şirketten ayrılarak yapay zeka güvenliği konusundaki endişelerini dışarıdan dile getirmeye karar verdi. Ona göre yapay zeka sistemlerinin yetenekleri ve otonomisi arttıkça güvenlik süreçlerinin sorunlar ortaya çıktıktan sonra müdahale eden bir yapıdan, riskleri önceden tespit etmeye odaklanan daha kapsamlı bir sisteme dönüşmesi gerekiyor.


Kaynak ; Milliyet