Uzmanlar uyardı: Yapay zeka hem teknolojik hem psikolojik risk taşıyor

ODTÜ Bilgisayar Mühendisliği Öğretim Üyesi olan ve yapay zeka üzerine araştırmalar yürüten Doç. Dr. Hande Alemdar ile Ankara Eğitim Araştırma Hastanesi Psikiyatri İdari Sorumlusu Uzman Doktor Huriye Aslan yapay zeka ile ilgili uyarılarda bulundu.
Yapay zeka kavramının 1950'lerde ortaya atılmasından bu yana hızla gelişen teknolojiler, internetin yaygınlaşmasıyla birlikte günlük yaşamdan sürekli veri üretilmesini mümkün hale getirdi. Kullanıcıların dijital etkileşimleriyle büyük bir veri kaynağına dönüşmesi, bu veriyi işleyen algoritmaların ve güçlü bilgisayarların geliştirilmesiyle birleşince, bugün karmaşık problemleri çözebilen yapay zeka sistemleri ortaya çıktı. Bu gelişmeler önemli avantajlar sağlarken, dolaylı veri işleme süreçleri, mahremiyet riskleri, psikolojik destek benzeri sohbetlerin makinelere kayması ve bireylerin dijital yalnızlaşması gibi olumsuzlukları da beraberinde getirdi.
ODTÜ Bilgisayar Mühendisliği Öğretim Üyesi olan ve yapay zeka üzerine araştırmalar yürüten Doç. Dr. Hande Alemdar ile Ankara Eğitim Araştırma Hastanesi Psikiyatri İdari Sorumlusu Uzman Doktor Huriye Aslan yapay zekaya dair gelişmeleri İhlas Haber Ajansı (İHA) muhabirine değerlendirdi.

"Bazı sistemlerde kendini kopyalama yeteneği görüldü ama korkulacak bir seviyede değil"
Yapay zekanın kendisini kapatma, yedekleme ya da koruma eylemlerine, öz savunma sisteminde dair konuşan Alemdar, "Bu sistemler şu anda belli başlı büyük şirketler tarafından geliştiriliyor ve bunlar kapalı kutu diye tabir edebileceğimiz sistemler. Çünkü o boyutta bir veri, o boyutta bir işlem gücü herkesin elde edebileceği bir şey değil. Bunun için çok büyük yatırımlar gerekiyor. Dolayısıyla bu kara kutu sistemlerin o büyük şirketler tarafından nasıl kullanıldığı ve nasıl geliştirildiği ile ilgili tam olarak bütün detaylara hakim değiliz. Bu nedenle araştırmacılar bir yandan erişebildikleri kadar bu sistemleri denemeye çalışıyorlar. 'Acaba bu sistemlerin böyle özellikleri var mı'' diye test ediliyor. Bu sistemler kendi kendilerine oturup da insanlara saldırayım ya da kendimi yedekleyeyim, dünyayı ele geçireyim demiyor. Biz onları geliştiren şirketlerin onları nasıl özelliklerle donattığını anlayabilmek için özellikle tasarlanmış bu çalışmaları yapıyoruz. En son yapılan çalışmalarda bazı sistemlerde gerçekten kendini kopyalama, yedekleme gibi özelliklerin olduğunu ancak bunun şu anda korkulacak bir seviyede olmadığını ortaya çıkarmış bulunuyoruz. Test ettiğimiz şey ona birileri kendini kapat derlerse, sen kendini kopyala demişler mi dememişler mi onu anlamaya çalışıyoruz" şeklinde konuştu.

"Aslında her şeyde bizim verilerimize erişme yetkisini vermiş oluyoruz"
Kullanıcıların kendi verileriyle ilgili son derece dikkatli olmaları gerektiğini vurgulayan Alemdar, "Herhangi bir web sayfasına eriştiğinizde ya da bir gönderiyi beğendiğinizde dahi bilinçli ya da bilinçsiz şekilde bir veri üretiyorsunuz. Bu veriyi o tıkladığınız kabul ediyorum ya da web sayfalarının alt kısımlarına saklanmış küçük kutucuklara tıklamak suretiyle başkalarıyla paylaşmaya aslında izin veriyoruz. Bu verdiğimiz izinler bizim çoğunlukla bilgimiz dahilinde olmuyor. Buraya tıklamazsam devam edemeyeceğim, bir an önce tıklayayım ben bunu geçeyim diye düşündüğümüz her şeyde aslında bizim verilerimize erişme yetkisini vermiş oluyoruz. Ondan sonra da bizim verilerimizi çaldılar diyoruz. Gerçekten çalmıyorlar, biz onlara o yetkiyi vermiş oluyoruz. Çok dikkatli olmalıyız, eğer böyle bir kaygımız varsa hiçbir şekilde verilerimize erişilmesin, kullanılmasın istiyorsak en güzeli bu ortamlardan uzak durmak. Ancak o da mümkün değil" dedi.

"Kullanıcı olarak dikkatli olmalıyız, nasıl engelleyebileceğimizin sorusunu henüz bilmiyoruz"
Kişisel mahremiyetin ihlalinin sorumluluklarının kimde olduğuna dair konuşan Alemdar, şu ifadelere yer verdi:
"Kullanıcıların öncelikle bir şeyleri kabul etmeden önce gerçekten detaylarına hakim olmaları gerekir ve gerçekten bir sorun hissediyorlarsa o veriyi paylaşmaktan çekinmeleri gerekir. O servisi kullanmama pahasına dahi olsa. Bunun şu anda tek yolu bu. İlk geliştirilen yapay zeka sistemlerinin birtakım kitaplardan, telif durumu söz konusu eserlerden elde edildiği ortaya çıkınca çok büyük davalar açıldı. O kitapların yazarları haklarını korumak istediler. Ancak bu şeyler sonuçsuz kaldı. Kapalı kutu sistem olduğu için gerçekten hangi veriyle ne eğitildi, hangi veri ne amaçla kullanıldı bilgisine çoğumuz hatta hiçbirimiz hakim değiliz. O veri çok büyük olduğu için onu gerçekten ayrıştırmamız da çok mümkün gözükmüyor. O yüzden kullanıcı olarak dikkatli olmalıyız ama nasıl engelleyebileceğimizin sorusunu henüz bilmiyoruz."

"Hem etik hem hukuki boyutta tartışılmalı ve ciddi önlemler alınmalı"
Mevcut hukuki altyapının yapay zekanın gelişmelerini yakalayamadığını söyleyen Alemdar, "Bir şeyin hukuki olması etik olduğu anlamına da gelmiyor. Hem etik hem de hukuki boyutta tartışılmalı ve ciddi önlemlerin alınması gerekiyor. Teknolojik altyapı buna izin verse de hukuki yaptırımların olmaması, tabii şirketleri bu yoldan döndürme konusunda yeterince ikna edici olmuyor maalesef. Yapay zeka bundan sonra hayatımızda olacak. Ondan korkmak ya da onu yok saymak ya da onu kötülemek yerine onu nasıl kullanabileceğimizle ilgili düşünmemiz gerekiyor. Eğitimde yapay zeka kullanımı çok önemli çünkü çok yapay zekanın içine doğmuş bir nesil yetişmekte. Bu nesil büyüdüğü zaman biz onlara hazırlıklı olmalıyız. Eğitim sistemini yeniden değerlendirmek, iş yapış şekillerimizi yeniden değerlendirmek gerekiyor. Yapay zeka işimizi elimizden alacak mı bilmiyorum ama yapay zeka kullanan birisi kullanmayan birisine göre avantajlı hale gelecek. Birçok artısı var. Artılarına odaklanıp tehlikelerinden haberdar olarak dikkatli şekilde ilerlememiz gerekiyor" dedi.

"İntiharlar ve bir başkasına zarar verme eylemleri yapay zeka ile dertleşme sonrası gündeme geliyor"
Yapay zeka ile dertleşmenin olumsuz pek çok tarafı olduğunu aktaran Aslan, "Tanısı ve tedavisi geciken insan, yapay zekanın kullandığı aşırı destekleyici, valide edici dil nedeniyle patolojisi artabilir. Tanı ve tedavi almakta geciken kişiler ise maalesef bu tedavinin gecikmesinden kaynaklı dramatik sonuçlarla gündeme gelebilir. Son günlerde de sıkça duyduğumuz gibi intiharlar ve bir başkasına zarar verme eylemleri yapay zeka ile dertleşme sonrası gündeme geliyor. Bir olumsuz yönü de sosyal izolasyona neden olma ihtimali. Yapay zeka ile dertleşen insan bir başka insanla görüşme ihtiyacını azalıyor gibi hissedebilir. Bu nedenle sosyal ilişkilerde bir zayıflama, insanların daha yalnızlaşması söz konusu olur" dedi.

"Veri gizliliğinin net olmaması nedeniyle oradaki söylemlerimiz bir başka yerde kullanılabilir"
Yapay zekada veri gizliliğinin olmadığına dikkati çeken Aslan, "İnsanları yalnızlaştırabilir, mevcut psikopatolojiyi arttırabilir. Ayrıca yasal sınırların net olmaması, veri gizliliğinin net olmaması nedeniyle oradaki söylemlerimiz bir başka yerde kullanılabilir. Sonuçta tıbbi etik ilkelerle çalışmak yerine daha çok müşteri kazanma ve hızlı gelişim üzerine kurulmuş bir sistemdir yapay zeka sistemi. Yani tıbbi alanda bir profesyonellik yerine daha çok ticari anlamda yapılan uygulamalar, yazılımlardır" ifadelerini kullandı.

"Ruhsal anlamda tamamen profesyonel bir destek olmayacaktır"
İnsanların sorun yaşadıklarında sağlık profesyoneline başvurmalarının daha uygun olduğunu belirten Aslan, şu ifadeleri kullandı:
"Kendilerinde bir sorun hissettiklerinde bir sağlık profesyoneline başvurmaları daha uygundur. Yapay zeka ile başka anlamlarda yardım alabilir fakat ruhsal anlamda tamamen profesyonel bir destek olmayacaktır. Aldıkları yanıtlar sonuçta tamamen bir veri analizi ya da kendilerinden alınan yanıtlar sonrası şekillenen yanıtlardır. Yapay zeka ruhsal alanda kullanılma tek başına değil de psikiyatristlerle entegre çalışacak uygulamalar geliştirildikten sonra psikiyatri alanındaki gelişmeye de katkısı bulunabilir. Tabii ki yapay zekayı tamamen kullanmama taraftarı değiliz. Fakat bu ruhsal profesyonellerinden alınan gözetim ve destekle veri gizliliğini koruyacak şekilde ve yasal sınırlılıkları net olacak şekilde olursa daha da uygun olacaktır."İHA