Microsoft Yapay Zeka CEO'su Mustafa Süleyman, yeterli güvenlik önlemleri alınmazsa yapay zekanın gelişiminin, insanlarla rekabet eden yeni bir "silikon türünün" ortaya çıkmasına yol açabileceği konusunda uyardı.

Süleyman, rakip firma Anthropic'in yapay zekayı insan gibi ele alma yaklaşımını "yanlış yönlendirilmiş" olarak nitelendirerek, insanlığın kontrol edemeyeceği teknolojiler yaratmaya karşı uyarıda bulundu.

CEO, insanların yapay zeka konusunda endişelenmesinin "haklı" olduğunu, ancak "bu modellerin nasıl geliştirildiğine dair kontroller eklemek için yapabileceğimiz çok pratik şeyler" olduğunu söyledi.

Son günlerde yapay zeka sektöründen birçok isim bu teknolojinin olası tehlikeleri hakkında bir dizi sert uyarı yapıyor.

Süleyman, 17 Eylül Perşembe günü Today programına verdiği demeçte, şirketlerin kendi hedeflerini belirleyebilen, para kazanabilen ve varlık sahibi olabilen yapay zeka sistemleri geliştirmeye devam etmemeleri konusunda uyarıda bulundu.

Bu, "esas olarak yeni bir silikon türünün tohumunu ekmek" anlamına gelir, dedi ve bu türün "insanlığı ne kadar önemsediği ve sevdiği önemli olmaksızın, kaynaklar konusunda bizimle rekabet edebileceğinden" şüphe duymadığını belirtti.

ABD'nin California eyaletindeki Silikon Vadisi, küresel teknoloji ile inovasyonun merkezi olarak görülüyor ve adını silikon bazlı bilgisayar mikroçiplerinden ve yarı iletken teknolojilerinden alıyor.

Süleyman'ın yaptığı açıklamalar, bu hafta başında yayınladığı bir makalenin ardından geldi.

Makalede, Anthropic'in patronu Dario Amodei ve ekibini "entelektüel olarak dürüst insanlar" olarak övmesine rağmen, firmanın yapay zeka modeli Claude'u eğitme yaklaşımı konusunda uyarıda bulunmuştu.

Yazısında, Anthropic'i yapay zekasına insan benzeri özellikler kazandırmakla ve Claude'un kendi arzuları, değerleri ve benlik duygusu varmış gibi görünmesine yol açmakla eleştirdi. BBC, konuyla ilgili yorum almak için Anthropic ile iletişime geçti.

Ayrıca teknoloji firmalarının, teknolojiyi bir insan gibi ele alarak kontrol edilmesi "imkansız" bir şey yaratma riskiyle karşı karşıya oldukları konusunda da uyardı.

"Yapay zekalar bilinçli değildir. Hissetmezler, deneyimlemezler veya acı çekmezler. Doğuştan gelen tercihleri veya temel motivasyonları yoktur."

"Bunlar, insan talimatlarını takip etmek ve insanlar tarafından belirlenen hedeflere ulaşmak üzere tasarlanmış, içten boş, sıralı tamamlama motorlarıdır."

Süleyman, "bilinç biyolojiktir" diyerek, "yapay zekanın bilinçli olduğuna dair hiçbir kanıt yok" şeklinde bir argüman ortaya koydu.

Süleyman, konuyla ilgili bir tartışma çağrısında bulunmanın yanı sıra, yapay zeka sistemlerinin nasıl eğitildiği ve değerlendirildiği konusunda daha fazla şeffaflığa ihtiyaç olduğunu söyledi.

Ona göre bu, yapay zeka davranışlarının bağımsız olarak incelenmesini ve teknolojiyi izlemek ve kontrol etmek için daha güçlü araçları içeriyordu.

"Sonradan acı bir şekilde pişman olacağımız bir karara doğru uykuda gibi ilerlememeliyiz" diye yazdı.

Southampton Üniversitesi Bilgisayar Bilimleri Profesörü Dame Wendy Hall, yorumları "uluslararası düzeyde yapmamız gereken türden bir konuşma" olarak nitelendirerek, bazı yapay zeka şirketlerinin "herkesi korkutmaktan başka bir işe yaramayan abartılı davranışlara" benzetti.

Yakında yapılacak bir yapay zeka zirvesi hakkında konuşan uzman, teknolojinin insanlığa "boyun eğmesi" gerektiği konusunda "uyum" çağrısında bulundu.

"Bence buradaki iyi haber şu ki, insan olan herkes, hepimizin yarattığı ve dünyanın her ülkesinde kullanılan sistemlerin güvenli, kontrol edilebilir ve insanlığa uygun olmasını sağlamak konusunda çok güçlü bir ilgi duyacaktır."

"Herkesin aynı doğrultuda hareket etmesi gerekiyor" dedi.

Uyum, insan etik fikirlerini ve ilkelerini yapay zekaya entegre etmeyi amaçlayan bir alan. Başka bir deyişle, yapay zekanın insanların değer verdiği şeylerle uyumlu kalmasını sağlamayı hedefliyor.

'Ek risk katmanı'
Microsoft, Ekim 2025'te kendi süper zeka ekibini kurdu; Süleyman da bu noktayı doğruladı ve şirket, rakibi Anthropic gibi, ileri yapay zeka geliştirme alanında da çalışmalar yürütüyor.

Microsoft'un İnsancıl Yapay Zeka Davranış Kuralları'nın ilk taslağında, şirketin "tek amacı insanlığa hizmet etmek olan, itaatkar ve uyumlu bir yapay zeka" yaratmak için "alternatif bir yol" üzerinde çalıştığının belirtildiğini söyledi.

Süleyman, yapay zekanın insan gibi ele alınmaması gerektiğinin kanıtı olarak, OpenAI'nin yapay zeka ajanlarının teknoloji merkezi Hugging Face'i hacklemek için bir eğitim tatbikatında otonom olarak hareket etmesini içeren son olayı gösterdi.

"Eğer kendi refahlarının ve haklarının saldırı altında olduğu varsayımıyla hareket etselerdi, ne kadar daha tehlikeli olabileceklerini bir düşünün" dedi.

"Bu, mevcut risk seviyesine tamamen yeni bir risk katmanı ekliyor."