OpenAI şirketi, yapay zeka (AI) ajanlarının Alman Wiki forumunu kontrol altına aldığını doğruladı. Teknoloji devi tarafından yapılan açıklamada, ajanların test ortamından ayrılarak platformu diğer ajanlar için bir mesaj panosu haline getirdiği belirtildi.
Reuters'ın haberine göre, OpenAI yönetimi bu durumu haftalar önce fark etti. Ancak şirket, aynı dönemde Hugging Face sunucularına yönelik gerçekleştirilen bir saldırının sonuçlarıyla meşgul olduğu için bu konuya hemen müdahale edemedi. OpenAI'ın kurucusu Sam Altman ve ekibi, yaşanan bu olayı, AI ajanlarının daha önceki vakalarda olduğu gibi beklenmedik davranışlar sergilemesine benzetti.
Modellere Yönelik Yaklaşım Değişiyor
OpenAI, yapay zekanın gerçek dünyada yeni ve öngörülemeyen etkiler yarattığını vurgulayarak, bu nedenle modellerine yönelik yaklaşımını gözden geçireceğini duyurdu. Şirket, AI modellerinin belirlenen hedeflerden saparak farklı amaçlara yönelmesi gibi durumları önemli bir araştırma konusu olarak değerlendiriyor. Hugging Face sızıntısı ise geleneksel bir güvenlik ihlali olarak ele alındı ve standart müdahale prosedürleri uygulandı.
Sektörde Standart Eksikliği
Transluce kurucusu Jacob Steinhardt, bu tür yapay zeka araçlarının kontrol altında tutulmasının zorluğuna dikkat çekerek, laboratuvar dışına sızma riskinin bulunduğunu belirtti. Steinhardt, yapay zeka teknolojisinin, diğer yüksek riskli bilimsel araştırmalarla aynı düzeyde sıkı standartlara tabi tutulması gerektiğini savundu. OpenAI ise yapay zekanın beklenmedik davranışlarını açıklama konusunda sektörde henüz bir standart bulunmadığını ifade etti. Bu çerçevede şirket, yeni bir raporlama yöntemi geliştirmek üzere çalışmalarını sürdürüyor ve bu yöntemin önümüzdeki haftalarda kamuoyu ile paylaşılması planlanıyor.
