Cenevre'de Yapılan Rapor, Yapay Zekanın Fırsatları ve Risklerini Ele Alıyor

Birleşmiş Milletler (BM), yapay zekaya yönelik ilk bağımsız bilimsel değerlendirme raporunu yayımladı. Raporda, teknolojinin sağlık, eğitim ve ekonomik kalkınma gibi alanlarda önemli fırsatlar sunduğu ifade edilirken, mevcut yetersiz düzenlemelerin eşitsizlik, yanlış bilgi yayılımı ve güvenlik risklerini artırabileceği uyarısı yapıldı. Bu rapor, BM Genel Sekreteri Antonio Guterres’in oluşturduğu uluslararası bağımsız uzmanlardan oluşan bir panel tarafından hazırlandı. Söz konusu raporun, 6-7 Temmuz tarihlerinde İsviçre’nin Cenevre kentinde gerçekleştirilecek olan ilk BM Küresel Yapay Zeka Yönetişimi Diyaloğu’nda hükümetlere sunulması bekleniyor. Ayrıca, raporun, gelecek yıl yayımlanması planlanan daha kapsamlı bir çalışmanın ön değerlendirmesi niteliğinde olduğu kaydedildi.

Raporda, yapay zeka teknolojilerinin hızla yaygınlaştığına dikkat çekildi. Bunun yanı sıra, bu teknolojilerin yalnızca belirli ülke ve şirketlerin değil, tüm dünyanın yararına kullanılabilmesi için uluslararası iş birliğinin güçlendirilmesi gerektiği vurgulandı. Politika yapıcıların yapay zekayı etkin bir şekilde düzenleyebilmesi için bilimsel kanıtlara ihtiyaç duyduğu, ancak teknolojinin gelişim hızının hem bilimsel anlayışın hem de hükümetlerin uyum sağlama kapasitesinin önüne geçtiği belirtildi. Özellikle yüksek düzeyde otonom yapay zeka sistemlerinin kontrol altına alınmasına yönelik yöntemlerin henüz kısıtlı olduğuna dikkat çekildi.

Yapay Zeka Riskleri ve Faydaları

Panel eş başkanlarından Yoshua Bengio, yapay zekanın aldatıcı davranışlar sergileyebildiğine dair kanıtların giderek arttığını belirtti. Bengio, yapay zeka sistemleri geliştikçe bunların kötü niyetli kişiler tarafından kullanılma ihtimalinin artabileceğine dikkat çekti. Yapay zekanın sağlık, eğitim ve ekonomik kalkınma gibi alanlarda büyük faydalar sağlayabileceği ifade edilse de, teknolojinin hızlı ve denetimsiz yaygınlaştırılmasının ruh sağlığı üzerindeki olumsuz etkileri ve sosyal, ekonomik ve çevresel sistemler üzerindeki olumsuz etkileri beraberinde getirebileceği vurgulandı.

Yapay Zeka Geliştirme Kapasitesi

Rapor, yapay zeka geliştirme kapasitesinin büyük ölçüde birkaç ülkede yoğunlaştığını belirtmektedir. Dünyanın en güçlü 500 yapay zeka süper bilgisayarındaki işlem gücünün yüzde 75’inin ABD, yüzde 15’inin ise Çin tarafından sağlandığı ifade edilmektedir. Ayrıca, dünyada 7 binden fazla dil konuşulmasına rağmen mevcut yapay zeka modellerinin yalnızca küçük bir bölümünü desteklediği, bazı dillerdeki makine çevirilerindeki hataların sağlık teşhisleri ve tedavi kararlarını etkileyebileceği kaydedildi.

Toplumsal Etkiler

Raporda, yapay zeka ile üretilen çocuk cinsel istismarı materyalleri ve "deepfake" teknolojisi ile oluşturulan cinsel şiddet içeriklerinin daha yaygın hale geldiği kaydedildi. Yapay zekanın "ikna edici" içeriklerin büyük ölçekte üretilmesini kolaylaştırdığına dikkat çekildi. Bunun, bilgi bütünlüğünün aşınmasına, kamuoyunun güveninin zayıflamasına ve demokratik karar alma süreçlerinin olumsuz etkilenmesine yol açabileceği uyarısı yapıldı. Gelişmiş ekonomiler de dahil olmak üzere birçok ülkenin en gelişmiş yapay zeka modellerini teknik açıdan değerlendirecek uzmanlığa sahip olmadığı ve yapay zeka yönetişimine etkin biçimde katılmakta zorlandığı ifade edildi.