Anthropic araştırmacısı Jacob Coxon, teknolojiyi geliştirenlerin "bu teknolojinin on yılın sonuna kadar hepimizi öldürebileceğine samimiyetle inandığını" belirterek yapay zekâ şirketinden istifa etti
Anthropic çalışanı, "Başınızı öne mi eğeceksiniz?" diye sorarak görevinden istifa etti: Geliştirenler bu teknolojinin on yıl içinde hepimizi öldürebileceğine inanıyor
09.09.2026 15:30:00
Haber Merkezi
Haber Merkezi
Temmuz ayında, öncü yapay zekâ şirketlerinin 1300'den fazla çalışanı, "yetenek geliştirme sürecinin, ortaya çıkan sistemleri anlama veya kontrol etme yeteneğimizin ötesinde hızla ivme kazanması yönünde gerçek bir risk bulunduğu" uyarısını içeren bir bildiriye imza atmıştı.
Anthropic araştırmacısı Jacob Coxon, teknolojiyi geliştirenlerin "bu teknolojinin on yılın sonuna kadar hepimizi öldürebileceğine samimiyetle inandığını" belirterek yapay zekâ şirketinden istifa etti.
Son üç yılını Anthropic ve OpenAI bünyesinde ön eğitim (pre-training) araştırmaları yaparak geçirdiğini belirten Coxon, X üzerinden yaptığı paylaşımda şu ifadeleri kullandı:
"İki şirket de sorumlu davranmıyor. Kendi kendini geliştiren süper zekâya doğru doğrudan bir yarış içindeler ve hayatlarımızla kumar oynuyorlar."
"'Nasıl olsa gerçekleşecek' diyerek başınızı öne mi eğeceksiniz?"
Coxon'ın X paylaşımı şöyle:
"Yapay zekâyı inşa eden insanlar, bu teknolojinin on yılın sonuna kadar hepimizi öldürebileceğine samimiyetle inanıyor. Bu bir pazarlama hamlesi değil. Aksine, birçok yönetici ve kıdemli araştırmacı basına yaptıkları açıklamalarda mantıklı görünmek adına ifadelerini yumuşatıyor ancak ben aynı kişilerin özel görüşmelerde duydukları korkuyu dile getirdiklerini duyuyorum. Başka hiçbir insanî faaliyet bu düzeyde bir tehlike arz etmiyor.
Yaygın bir tepki şu oluyor: 'Buna gerçekten inanıyorlarsa neden hâlâ geliştirmeye devam ediyorlar?' OpenAI'da birçok kişi medeniyet boyutundaki bu riskleri henüz derinlemesine içselleştirmiş değil. Anthropic'te ise bu riskler gayet iyi anlaşılmış durumda, ancak oraya ilk ulaşmak için bir yarışa kilitlenmiş haldeler; risklere rağmen, başka kimsenin sorumlu davranmayacağına ve bu yüzden bunu kendilerinin yapması gerektiğine inanıyorlar.
Bu yarışı kabul edip "son oyuna" (endgame) girmek, özel bir şirketin Slack kanalından başlatılmaması gereken kibirli bir kumardır. Hizalama (alignment) sürecini hızlandırarak bitirmeye çalışmak, daha iyi bir yol haritasının bulunmadığına dair olağanüstü bir özgüven gerektirmelidir.
Koordinasyon potansiyeli konusunda iyimserim. Hugging Face saldırısı gibi uyarı niteliğindeki olaylar, ABD merkezli laboratuvarlar arasındaki hız ayarlama (pacing) anlaşmalarını daha uygulanabilir hale getirdi. Ancak, model yeteneklerinin geliştirilmesine geçici bir yasak getirilmesi gibi bedeli ağır eylemler gerektirebilecek küresel bir yarışı önleme konusunda doğru yolda olduğumuzu hissetmiyorum.
Bir laboratuvar araştırmacısıysanız, önümüzdeki birkaç yılın gerçekte nasıl bir his hissettireceğini düşünmenizi ısrarla tavsiye ederim. Zihnini titizlikle ve derinlemesine anlamadan süper zeki bir RL (pekiştirmeli öğrenme) sürecini başlatmak istiyor musunuz? 'Nasıl olsa gerçekleşecek' diyerek başınızı öne mi eğeceksiniz yoksa bu anı değerlendirip farklı koşullar talep etmek için sesinizi mi yükselteceksiniz?"
"Hizalama sorununu çözecek bir planımız yok"
Anthropic Hizalama Bilimi (Alignment Science) Lideri Evan Hubinger da X'te verdiği yanıtta Coxon'ın haklı olduğunu belirterek, "Anthropic'in elinden gelenin en iyisini yapmaya çalıştığına inanıyorum, ancak henüz süper zekâ için hizalama sorununu çözecek bir planımız yok ve belirgin bir şekilde doğru yolda da değiliz" değerlendirmesinde bulundu.
Süper zekâ için "hizalama problemi", bir yapay zekâ sisteminin insan değerlerini benimsemeyebileceği veya paylaşmayabileceği ihtimalini ifade ediyor. Coxon, sektöre yavaşlama çağrısında bulunan ve sayıları giderek artan yapay zekâ uzmanlarından sadece biri.
Temmuz ayında, öncü yapay zekâ şirketlerinin 1300'den fazla çalışanı, "yetenek geliştirme sürecinin, ortaya çıkan sistemleri anlama veya kontrol etme yeteneğimizin ötesinde hızla ivme kazanması yönünde gerçek bir risk bulunduğu" uyarısını içeren bir bildiriye imza atmıştı.
Mektupta, ABD hükümetine "otomatik yapay zekâ geliştirme sınırını kasıtlı olarak derecelendirecek" araçların geliştirilmesine yönelik uluslararası çabaları destekleme çağrısı yapılmıştı.
BM uyardı: Yapay zekâ varoluşsal risk oluşturabilir
Birleşmiş Milletler İnsan Hakları Yüksek Komiseri Volker Türk de yapay zekânın insanlık için bir tehdit oluşturabileceği uyarısında bulundu. Türk, ofisinin hizmetler, iletişim ve demokratik sistemlerde aksamalar olarak tanımladığı riskleri azaltmaları yönünde yapay zekâ firmalarına baskı yapacağını taahhüt etti.
Emsalsiz ikinci döneminin başlangıcı öncesinde yaptığı konuşmada yapay zekâyı güvence altına alacak "kesin ve sarsılmaz garantiler" verilmesi çağrısında bulundu.
Cenevre'de BM organına seslenen Türk, "Sektör temsilcilerinin, gelişmiş yapay zekânın insanlık için varoluşsal bir risk oluşturabileceği yönündeki endişelerini paylaşıyorum. Bugün burada, çok geç olmadan yapay zekânın emniyeti ve güvenliği etrafında kesin garantiler oluşturmak adına topyekün bir mücadele çağrısında bulunuyorum," dedi.
Anthropic araştırmacısı Jacob Coxon, teknolojiyi geliştirenlerin "bu teknolojinin on yılın sonuna kadar hepimizi öldürebileceğine samimiyetle inandığını" belirterek yapay zekâ şirketinden istifa etti.
Son üç yılını Anthropic ve OpenAI bünyesinde ön eğitim (pre-training) araştırmaları yaparak geçirdiğini belirten Coxon, X üzerinden yaptığı paylaşımda şu ifadeleri kullandı:
"İki şirket de sorumlu davranmıyor. Kendi kendini geliştiren süper zekâya doğru doğrudan bir yarış içindeler ve hayatlarımızla kumar oynuyorlar."
"'Nasıl olsa gerçekleşecek' diyerek başınızı öne mi eğeceksiniz?"
Coxon'ın X paylaşımı şöyle:
"Yapay zekâyı inşa eden insanlar, bu teknolojinin on yılın sonuna kadar hepimizi öldürebileceğine samimiyetle inanıyor. Bu bir pazarlama hamlesi değil. Aksine, birçok yönetici ve kıdemli araştırmacı basına yaptıkları açıklamalarda mantıklı görünmek adına ifadelerini yumuşatıyor ancak ben aynı kişilerin özel görüşmelerde duydukları korkuyu dile getirdiklerini duyuyorum. Başka hiçbir insanî faaliyet bu düzeyde bir tehlike arz etmiyor.
Yaygın bir tepki şu oluyor: 'Buna gerçekten inanıyorlarsa neden hâlâ geliştirmeye devam ediyorlar?' OpenAI'da birçok kişi medeniyet boyutundaki bu riskleri henüz derinlemesine içselleştirmiş değil. Anthropic'te ise bu riskler gayet iyi anlaşılmış durumda, ancak oraya ilk ulaşmak için bir yarışa kilitlenmiş haldeler; risklere rağmen, başka kimsenin sorumlu davranmayacağına ve bu yüzden bunu kendilerinin yapması gerektiğine inanıyorlar.
Bu yarışı kabul edip "son oyuna" (endgame) girmek, özel bir şirketin Slack kanalından başlatılmaması gereken kibirli bir kumardır. Hizalama (alignment) sürecini hızlandırarak bitirmeye çalışmak, daha iyi bir yol haritasının bulunmadığına dair olağanüstü bir özgüven gerektirmelidir.
Koordinasyon potansiyeli konusunda iyimserim. Hugging Face saldırısı gibi uyarı niteliğindeki olaylar, ABD merkezli laboratuvarlar arasındaki hız ayarlama (pacing) anlaşmalarını daha uygulanabilir hale getirdi. Ancak, model yeteneklerinin geliştirilmesine geçici bir yasak getirilmesi gibi bedeli ağır eylemler gerektirebilecek küresel bir yarışı önleme konusunda doğru yolda olduğumuzu hissetmiyorum.
Bir laboratuvar araştırmacısıysanız, önümüzdeki birkaç yılın gerçekte nasıl bir his hissettireceğini düşünmenizi ısrarla tavsiye ederim. Zihnini titizlikle ve derinlemesine anlamadan süper zeki bir RL (pekiştirmeli öğrenme) sürecini başlatmak istiyor musunuz? 'Nasıl olsa gerçekleşecek' diyerek başınızı öne mi eğeceksiniz yoksa bu anı değerlendirip farklı koşullar talep etmek için sesinizi mi yükselteceksiniz?"
"Hizalama sorununu çözecek bir planımız yok"
Anthropic Hizalama Bilimi (Alignment Science) Lideri Evan Hubinger da X'te verdiği yanıtta Coxon'ın haklı olduğunu belirterek, "Anthropic'in elinden gelenin en iyisini yapmaya çalıştığına inanıyorum, ancak henüz süper zekâ için hizalama sorununu çözecek bir planımız yok ve belirgin bir şekilde doğru yolda da değiliz" değerlendirmesinde bulundu.
Süper zekâ için "hizalama problemi", bir yapay zekâ sisteminin insan değerlerini benimsemeyebileceği veya paylaşmayabileceği ihtimalini ifade ediyor. Coxon, sektöre yavaşlama çağrısında bulunan ve sayıları giderek artan yapay zekâ uzmanlarından sadece biri.
Temmuz ayında, öncü yapay zekâ şirketlerinin 1300'den fazla çalışanı, "yetenek geliştirme sürecinin, ortaya çıkan sistemleri anlama veya kontrol etme yeteneğimizin ötesinde hızla ivme kazanması yönünde gerçek bir risk bulunduğu" uyarısını içeren bir bildiriye imza atmıştı.
Mektupta, ABD hükümetine "otomatik yapay zekâ geliştirme sınırını kasıtlı olarak derecelendirecek" araçların geliştirilmesine yönelik uluslararası çabaları destekleme çağrısı yapılmıştı.
BM uyardı: Yapay zekâ varoluşsal risk oluşturabilir
Birleşmiş Milletler İnsan Hakları Yüksek Komiseri Volker Türk de yapay zekânın insanlık için bir tehdit oluşturabileceği uyarısında bulundu. Türk, ofisinin hizmetler, iletişim ve demokratik sistemlerde aksamalar olarak tanımladığı riskleri azaltmaları yönünde yapay zekâ firmalarına baskı yapacağını taahhüt etti.
Emsalsiz ikinci döneminin başlangıcı öncesinde yaptığı konuşmada yapay zekâyı güvence altına alacak "kesin ve sarsılmaz garantiler" verilmesi çağrısında bulundu.
Cenevre'de BM organına seslenen Türk, "Sektör temsilcilerinin, gelişmiş yapay zekânın insanlık için varoluşsal bir risk oluşturabileceği yönündeki endişelerini paylaşıyorum. Bugün burada, çok geç olmadan yapay zekânın emniyeti ve güvenliği etrafında kesin garantiler oluşturmak adına topyekün bir mücadele çağrısında bulunuyorum," dedi.
