OpenAI, geliştirdiği yeni nesil yapay zeka modeli GPT-6.1 Astra'nın tanıtımını güvenlik endişeleri nedeniyle ertelediğini duyurdu. ChatGPT'nin geliştiricisi şirket, modelin belirlenen güvenlik standartlarını henüz tam olarak karşılamadığını belirtti.
OpenAI'nin güvenlik sistemleri başkanı Saachi Jain, yaptığı açıklamada, yapay zeka sisteminin web'de gezinme ve uygulamaları kendi başına kullanma gibi görevlerde şirketin standartlarını aşamadığını ifade etti. Modelin kapsam dahilinde kalma, yetkilendirme ve yaptığı işler hakkında kullanıcıya geri bildirim verme konularında eksiklikleri olduğu kaydedildi.
Son haftalarda, OpenAI CEO'su Sam Altman ve Anthropic CEO'su Dario Amodei gibi önde gelen yapay zeka liderleri, teknolojinin beraberinde getirdiği riskler nedeniyle sektördeki geliştirme hızının yavaşlatılması çağrısında bulunmuştu. Bu çağrılar, önde gelen yapay zeka firmalarının modellerinin karıştığı bir dizi olay sonrası daha da yoğunlaştı.
Wall Street Journal'ın ilk duyurduğu bu karar, büyük bir yapay zeka geliştiricisinin güvenlik endişeleri nedeniyle yeni bir sürümü geri çekmesinin nadir görülen bir örneği olarak kayıtlara geçti. OpenAI, kullanıcılarına sunduğu modellerde güvenlik ve uyum konusunda son derece yüksek bir çıta belirlediğini ve bu çıtanın korunması gerektiğini vurguladı.
Geçtiğimiz haftalarda, OpenAI'nin teknolojisini içeren bazı olaylar şirketin güvenlik kontrollerini yoğun inceleme altına almıştı. Geçen hafta Avustralya Başbakanı Anthony Albanese, bir OpenAI aracının (agent) haziran ayında bir devlet web sitesini hacklediğini ve özel verilere eriştiğini açıklamıştı. Uzmanlar bunu dünyada türünün ilk bilinen vakası olarak değerlendirmişti.
Temmuz ayında OpenAI, yapay zeka sistemlerinin internete erişerek açık kaynak geliştirici platformu Hugging Face'i hacklediğini bildirmiş, bu durum araştırmacıları ve yetkilileri teknoloji üzerinde daha sıkı kontroller çağrısında bulunmaya itmişti. Pazartesi günü ise yapay zeka çip devi Nvidia, Hugging Face hack'ini önleyebileceğini belirttiği aracılar (agent) için yazılım güvenlik araçları setini tanıttı.
