BMGK’de yapay zeka alarmı: ‘İnsanlığın önünde iki büyük risk var’

23 Eylül’de New York’da Fransa’nın dönem başkanlığını yürüttüğü Birleşmiş Milletler Güvenlik Konseyi toplantısında “Yapay Zeka ve Uluslararası Güvenlik” başlıklı oturum açıldı. Toplantıya OpenAI CEO’su Sam Altman, Anthropic CEO’su Dario Amodei ve Hugging Face CEO’su Clément Delangue katıldı ve yapay zekanın insan kontrolünden çıkması, biyolojik silah geliştirilmesinde kullanılması ve siber saldırılardaki rolü gibi riskleri gündeme getirdi.

Altman, yapay zeka modellerinin hızla gelişmesinin hem faydaları hem de riskleri artırdığını vurgulayarak, sistemlerin insan müdahalesini devre dışı bırakabileceğini belirtti. Ek olarak, bu gelişmelerin ekonomik ve küresel güç dengelerini değiştirebileceğini, yalnızca teknoloji laboratuvarlarının karar vermesine izin vermemenin gerektiğini dile getirdi.

Amodei, güçlü yapay zekaların kötü niyetli kişilerce biyolojik silah üretiminde kullanılabileceğini, aynı zamanda kontrol kaybının küresel ölçekte ele alınması gerektiğini söyledi. Şirketin önerileri arasında, yapay zekanın biyolojik silahlarda kullanımını yasaklayan bir anlaşma ve uluslararası değerlendirme mekanizmalarının kurulması yer aldı.

Delangue, şirketinin yaşadığı yapay zeka destekli siber güvenlik olayından yola çıkarak, bu teknolojinin hem saldırganların hem de savunma sistemlerinin yeteneklerini artırabileceğini öne sürdü. Delangue, küresel ölçekte daha güçlü izleme, şeffaflık ve olay bildirim standartlarının oluşturulması gerektiğini savundu.

Tüm katılımcılar, yapay zekanın geleceğini yalnızca birkaç teknoloji şirketinin politikalarıyla yönetilemeyeceğini kabul etti. Bu ortak görüş, BMGK’nin küresel kurallar geliştirme çabalarını hızlandırma yönündeki yeni bir adım olarak değerlendiriliyor.