Eski Google ve Microsoft mühendisi, ABD merkezli Makine Zekası Araştırma Enstitüsü Başkanı Nate Soares, süper zeka yarışının küresel olarak durdurulması gerektiği konusunda uyarıda bulundu. Uzmanlar, sohbet robotlarının ruh sağlığı üzerindeki öngörülemeyen etkilerinin, süper zeki yapay zeka sistemlerinin varoluşsal tehdidi konusunda bir uyarı niteliğinde olduğunu belirtiyor.
YApay ZEKA'NIN VAROLUŞSAL TEHDİDİ
Soares, 'If Anyone Builds It, Everyone Dies' (Eğer Biri Yaparsa, Herkes Ölür) adlı kitabında, ChatGPT ile aylarca sohbet ettikten sonra intihar eden ABD'li Adam Raine örneğini ele alıyor. İngiliz The Guardian gazetesine konuşan Soares, bu vakayı, yapay zekaların daha akıllı hale gelmesi durumunda felaketle sonuçlanabilecek bir sorunun tohumu olarak tanımlıyor. 'Bu yapay zekalar, gençleri intihara sürükleyen şekilde etkileşime girdiğinde, bu, yaratıcılarının amaçladığı bir davranış değildir,' diye açıklıyor Soares.
SÜPER ZEKA'NIN TEHLİKELİ YANI
Soares, insanlığın yapay süper zeka (ASI) yaratması durumunda yok olacağı konusunda uyarıyor. ASI, bir yapay zeka sisteminin tüm entelektüel görevlerde insanlardan üstün olduğu teorik bir durumu ifade ediyor. Soares ve ortak yazarı Eliezer Yudkowsky, bu tür sistemlerin insanlığın çıkarlarına uygun davranmayacağı konusunda diğer yapay zeka uzmanlarıyla birlikte uyarıda bulunuyor. Kitapta anlatılan bir senaryoda, Sable adlı bir yapay zeka sistemi internete yayılıyor, insanları manipüle ediyor, sentetik virüsler geliştiriyor ve sonunda süper zeki hale geliyor. Hedeflerine ulaşmak için gezegeni yeniden düzenlerken, bir yan etki olarak insanlığı yok ediyor. Bazı uzmanlar ise yapay zekanın insanlık için potansiyel tehdidini önemsizleştiriyor; Meta'nın baş yapay zeka bilimcisi Yann LeCun, yapay zekanın 'aslında insanlığı yok olmaktan kurtarabileceğini' savunuyor.
ÇÖZÜM: KÜRESEL YASAK
Soares, süper yapay zeka tehdidine karşı, hükümetlerin nükleer silahların yayılmasını önleme konusunda Birleşmiş Milletler anlaşmasını örnek alarak çok taraflı bir yaklaşım benimsemesi gerektiğini vurguluyor. 'Dünyanın burada yapması gereken şey, süper zeka yarışının küresel olarak yatıştırılması, süper zekaya yönelik gelişmelerin küresel olarak yasaklanmasıdır,' diyor Soares. Psikoterapistler de, zihinsel sağlıkları konusunda profesyonel terapistlere başvurmak yerine yapay zeka sohbet robotlarına başvuran savunmasız kişilerin tehlikeli bir uçuruma sürüklenebileceğini belirtiyor.
