Microsoft CEO’su Satya Nadella, yapay zekanın insanlara hizmet etmesi ve insan kontrolünde kalması gerektiğini belirterek, hızla gelişen yapay zeka sistemlerine yönelik daha güçlü güvenlik önlemleri çağrısında bulunan teknoloji dünyasının önde gelen isimleri arasına katıldı.
Microsoft CEO’su Satya Nadella, ABD merkezli Business Insider’a göre, şirket çalışanlarına gönderdiği mesajda, gelişmiş yapay zeka sistemlerinin insan çıkarlarıyla uyumlu şekilde geliştirilmesi gerektiğini belirtti.
Nadella, sosyal medya hesabından yaptığı açıklamada da “süper zeka” arayışının yapay zekanın insanlığa fayda sağlaması ve insan kontrolünde kalması ilkelerine dayanması gerektiğini belirtti. Nadella, bu koşulların sağlanamaması halinde böyle bir teknolojinin geliştirilmesinin peşinden gitmeye değmeyeceğini ifade etti.
Öte yandan Microsoft AI, kendi yapay zeka modellerinin geliştirilmesi ve kullanımına ilişkin taslak bir davranış kuralları belgesi yayımlamıştı. Altı hafta boyunca kamuoyunun görüşüne açık tutulacak taslakta, yapay zeka sistemlerinin “anlamlı insan kontrolü ve gözetimi” altında kalması öngörülüyor.
Taslağa göre Microsoft’un gelecekteki yapay zeka modellerinin insanların müdahale, düzeltme, yönlendirme ve sistemi kapatma girişimlerine izin vermesi; insanlar tarafından verilmeyen hedefleri kendi başına benimsememesi ve kendisini değerlendiren kişilerden muhakeme süreçlerini gizlememesi hedefleniyor. Şirket, yapay zekanın bilinç sahibi bir varlığı veya insanı taklit etmek yerine insanlara yardımcı olan bir araç olarak kalması gerektiğini belirtiyor. Güncellenmiş çerçevenin 2027’den itibaren geliştirilecek modellere rehberlik etmesi planlanıyor.
TEKNOLOJİ SEKTÖRÜNDE “FRENE BASMA” ÇAĞRILARI ARTTI
Microsoft’un çıkışı, gelişmiş yapay zeka modellerinin kontrolü ve güvenliği konusunda teknoloji sektöründe bir süredir devam eden tartışmaların son halkası oldu. Anthropic CEO’su Dario Amodei, yapay zeka alanındaki en ileri modellerin geliştirilme hızının düşürülmesini ve şirketlerin güvenlik uygulamalarını inceleyecek bağımsız değerlendirme taraflarına kapsamlı erişim sağlamasını önermişti.
Amodei’nin çağrısına sektörün rakip şirketlerinden de destek geldi. OpenAI CEO’su Sam Altman, yapay zekanın ilerleme hızının ayarlanması gerektiğini belirterek OpenAI’ın da bağımsız değerlenmelere geniş erişim sağlama taahhüdünde bulunacağını açıkladı.
Sektördeki görüş birliğine rağmen, ABD Başkanı Donald Trump ise yapay zekanın geliştirilmesinin yavaşlatılması yönündeki çağrılara karşı çıkarak, küresel rekabette özellikle Çin’in avantaj sağlayabileceğini savundu. Yapay zeka güvenliğine ilişkin endişeleri “sahtekarlık” olarak nitelendiren Trump, “Yapay zekayı kim kazanırsa, kazanır” ifadelerini kullandı.
KAYNAK: ANKA
