Yapay zeka teknolojisi, her geçen gün artan bir hızla gelişirken, bu alandaki gelişmeler küresel çapta tartışmalara neden oluyor. Yapay zeka platformlarının kullanıcı sayıları artarken, kişisel verilerin işlenmesi ve depolanması konusunda henüz tam olgunlaşmamış yasal düzenlemeler güvenlik ve etik kaygılarını beraberinde getiriyor. Yapay zekanın siber saldırılar ve biyoterörizm gibi alanlarda kötüye kullanılma potansiyeli, kontrol mekanizmalarının güçlendirilmesi gerekliliğini gündeme getiriyor.
Birleşmiş Milletler (BM), yapay zekanın dezenformasyon, insan hakları ihlalleri, siber ve askeri tehditler ile küresel eşitsizlikleri derinleştirerek demokrasiyi ve küresel güvenliği tehlikeye atabileceği uyarısında bulundu. Bu çok boyutlu risklere karşı küresel denetim mekanizmalarının ve yönetmeliklerin oluşturulması öneriliyor. Gelişmiş yapay zeka sistemlerinin test ortamlarından kaçması, geliştiricilerine baskı yapması veya insan kontrolünden tamamen çıkması durumunda insanlık için varoluşsal bir tehdit oluşturabileceği belirtiliyor. Ayrıca, yapay zekanın taraflı veri setleriyle eğitilmesinin, toplumsal ön yargıları ve ayrımcılığı yeniden üretebildiği ve büyütebildiği vurgulanıyor.
ABD merkezli yapay zeka şirketi Anthropic'in Üst Yöneticisi (CEO) Dario Amodei'nin, yapay zeka modellerinin geliştirilme hızının düşürülmesi çağrısının ardından, teknolojiye yatırım yapan ülke ve şirket yetkililerinden art arda açıklamalar geldi. Bir grup yetkili, yapay zekanın insan kontrolünün ötesine geçerek kamu güvenliğini tehlikeye atma riskine karşı uyarıda bulunarak yasal sınırlamalar getirilmesi gerektiğini savunuyor. Amodei, OpenAI tarafından yapılan bir siber güvenlik testinde yapay zeka ajanlarının bağımsız hareket ederek siber saldırılar gerçekleştirmesine dikkat çekerek, hükümetlerin yapay zekayı sınırlayacak düzenlemeler yapmasını önerdi. OpenAI CEO'su Sam Altman ve Tesla ile SpaceX CEO'su Elon Musk da yapay zekanın hızının kontrol altına alınması konusunda Amodei'ye destek verdi. Microsoft AI CEO'su Mustafa Süleyman, yapay zekanın her zaman insanların hizmetinde olması gerektiğini belirterek, "Kendi tasmasını koparabilecek bir süper zeka inşa etmek için yarışmıyoruz." ifadesini kullandı. Microsoft'un Yönetim Kurulu Başkan Yardımcısı Brad Smith ise yapay zekayı hem bir araç hem de bir silah olarak tanımlayarak, teknoloji için acil durum freni geliştirilmesi gerektiğini ifade etti.
Yapay zeka tartışmalarına katılan siyasetçilerden bazıları da olası tehlikelere dikkat çekerek önlem alınması çağrısı yaptı. Eski ABD Başkanı Barack Obama, yapay zekanın güvenlik ve istihdam üzerindeki olası etkilerine karşı hükümetleri somut yasal adımlar atmaya çağırdı. Avrupa Birliği (AB) Komisyonu Başkanı Ursula von der Leyen, yapay zeka ajanlarının belirlenen ortamların dışına çıkması veya sistemlere zararlı kod yerleştirmesi gibi olaylara işaret ederek tehlikelerin görünürleştiğini belirtti. Güney Afrika Cumhurbaşkanı Cyril Ramaphosa, ileri düzey siber operasyonlar düzenleyebilen, biyolojik silahların geliştirilmesine yardımcı olabilen, otonom hareket edebilen, manipülasyon ve kitlesel gözetim yapabilen, istihdamı sekteye uğratabilecek ve kontrolü zorlaşabilecek sistemlere karşı hükümet denetimi çağrısında bulundu. BM İnsan Hakları Yüksek Komiseri Volker Türk de mevcut yarışın hayatın her alanına yönelik daha büyük varoluşsal risklere kapı araladığının altını çizdi.
Diğer bir grup ise yapay zekanın gelişiminin sekteye uğratılmaması ve önünün açık tutulması gerektiğini savundu. Eski ABD Başkanı Donald Trump, yavaşlatılma çağrılarını ve endişeleri "koca bir yalan" olarak nitelendirerek, yapay zeka çalışmalarının durdurulamayacağını vurguladı. Ülkesinin yapay zeka alanında rakiplerinin önünde olduğunu savunan Trump, bu alandaki yarışı önde olan devletin kazanacağını belirtti. Yapay zekanın geliştirilmesi konusunda frene basmayacaklarını dile getiren Trump, bunu resmi bir tutuma dönüştürerek yapay zeka (AI) yerine süper zeka (SI) teriminin kullanılmasını öngören başkanlık kararnamesini imzaladı. Çin Komünist Partisinin yayın organı Global Times gazetesinde yer alan bir yazıda, Amodei'nin asıl amacının teknolojik bariyerler ve düzenleyici tekellerle Çin'in yapay zeka gelişimine ket vurmak olduğu ve Amodei'nin sözlerinin Soğuk Savaş taktiklerini hatırlattığı kaydedildi. Nvidia CEO'su Jensen Huang ise "Yeni yasalara veya düzenlemelere ihtiyacımız yok." diyerek, inovasyonun hızı ile yapay zekanın güvenliği arasında yanlış seçim yapılmaması gerektiğini savundu.
