Yapay zekanın potansiyel tehditleri aktörleri harekete geçiriyor

İngiltere Başbakanı Rishi Sunak’ın ev sahipliğinde gerçekleşecek AI Safety Summit (Yapay Zeka Güvenlik Zirvesi), belli başlı yapay zeka uygulamalarının oluşturduğu tehditler ve bu tehditlerin engellenmesiyle ilgili sorunları gündemine alacak.

Yapay zekâdaki hızlı ilerleme hükûmetleri harekete geçirdiTeknoloji

Yapay zeka uygulamalarının son yıllarda hızlı bir ivmeyle gelişmesi, uygulamalara ilişkin endişeleri de beraberinde getirdi. Geçtiğimiz mart ayında Future of Life Institute (Yaşamın Geleceği Enstitüsü) tarafından yayımlanan ve Elon Musk, Steve Wozniak, Andrew Yang gibi isimlerin de imzaladığı bir açık mektupta YZ laboratuvarlarına “çalışmalarınızı altı aylığına durdurun” çağrısı yapıldı.

Birleşik Krallık hükûmetinin internet sitesinde yer alan açıklamada, “Yapay zekâ teknolojileri eşi benzeri görülmemiş bir hızla gelişiyor. Yakında, şu anda mevcut olandan çok daha güçlü modeller piyasaya sürülebilir. Bazen onları inşa edenler için bile bu modellerin yeteneklerini tahmin etmek çok zor ve bize zarar vermek isteyenler de dâhil olmak üzere çok çeşitli aktörlerin kullanımına sunulabilirler. Bu değişim hızı, YZ güvenliği konusunda acilen harekete geçilmesi gerektiği anlamına geliyor. İnsanlık tarihinde bir dönüm noktasındayız ve başka bir yöne sapmak insanlık için kaçırılmış muazzam bir fırsat olacaktır” ifadeleri yer aldı.

Küresel çapta hükûmetler, yapay zekâ uygulamalarının kontrolden çıkma ihtimalini göze alarak 2023 ile birlikte yasal düzenlemeleri hayata geçirmek için çalışmalara başladı.

Bletchley Park’ta düzenlenecek bu zirvede de uluslararası regülasyonların gündeme getirilmesi bekleniyor. Zirvede “frontier AI” (sınır teknoloji YZ) adı verilen son teknoloji yapay zekâ uygulamalarının oluşturabileceği potansiyel tehditlere ve hâlihazırda var olan ve kısıtlı bir alanda işlem gösteren tehlikeli YZ modellerine karşı önlemler ve düzenlemeler tartışılacak.

Yapay zekâ, hayatımızı en çok hangi alanlarda kolaylaştırıyor?Teknoloji

Yapay zekâ uygulamaları, telif hakkı ve fikrî mülkiyet ihlalleri, iş güvensizliği, dezenformasyon veya mezenformasyon türlerinde yanlış bilgi yayma, görüntü ve ses manipülasyonu, gizli bilgilerin ifşası gibi konularda ulusal güvenliğe tehdit teşkil ediyor. Tehlikeli YZ uygulamalarının kötü niyetli ellere düşmesi durumunda bu özellikler kullanılarak devlet görevlilerine şantajdan toplum sağlığını tehlikeye düşürecek saldırılara uzanan geniş bir yelpazede güvenlik açıkları ortaya çıkabilir.

Bu tehditlere karşı regülatör organizasyonların kurulması mantıklı bir çözüm olarak değerlendiriliyor. Rishi Sunak’ın bir açıklamasına göre türünün ilk örneği olacak bir YZ güvenlik enstitüsünün İngiltere’de kurulması kararlaştırıldı.

Enstitü, dünyanın YZ güvenliği konusundaki bilgisini geliştirmeyi amaçlayacak ve modellerin yapabileceklerinin anlaşılabilmesi için yeni YZ türlerini dikkatle inceleme, değerlendirme ve test etme görevlerini üstlenecek.

Bu konuda Chatham House adlı düşünce kuruluşu için bir yazı kaleme alan Olivia O’Sullivan, YZ sistemlerinin regülasyonunun zorlu olduğunu, İkinci Dünya Savaşı sonrası kurulan kuruluşların geleneksel sorunlara çözüm getirmede dahi zorlandığını belirtiyor.

İklim değişikliği gibi toplumsal yaşamı tehdit eden geleneksel konularda dahi küresel uzlaşı oluşturmak zorken yapay zekânın tehdit oluşturduğuna bütün dünyayı ikna etmek de bir sınama olarak belirecektir. The Guardian’dan Dan Milmo ve Kiran Stacey, Sunak’ın zirveden beklentisinin bu fikir birliğini gerçekleştirmek olduğunu aktarıyor. Ancak kasım ayının başında gerçekleşecek zirve muhtemelen beklenen konsensüsü oluşturup düzenleyici bir kurumu dünyaya getirmeyi başaramayacaktır.

İleriki zamanda uluslararası karakterde sınırlı üyeye sahip bir düzenleyici organizasyonun kurulması ve zamanla genişleyerek evrensel bir nitelik kazanması bu açıdan daha gerçekçi bir hedef olabilir. Bu örgütün kurulması hâlinde ne derece bağlayıcı olacağı ve kararlarına ne derecede riayet edileceği de bir tartışma konusu olarak öne çıkmaktadır.

Çin, teknoloji alanında küresel lider olmak istiyorTeknoloji