Samuag
New member
The Telegraph’ın haberine nazaran Oxford Üniversitesi’nden araştırmacılar İngiliz milletvekillerini “insanüstü yapay zekanın” en az nükleer silahlar kadar tehlikeli olabileceği ve bu niçinle onlar üzere düzenlenmesi gerektiği konusunda uyardı.
Uzmanlar, Birleşik Krallık hükümetinin Bilim ve Teknoloji Seçim Komitesi’nde milletvekillerine düzenlenmemiş yapay zeka (YZ) teknolojilerinin tehlikeleri hakkında bilgi verdiler. The Telegraph’ın aktardığına nazaran doktora öğrencisi Michael Cohen milletvekillerine şunları söylemiş oldu: “İnsanüstü yapay zeka ile farklı bir sınıfta yer alan özel bir risk var, bu da herkesi öldürebilir.“
Yapay Zeka Kıyameti
Bu riskler, siyasi güçlerin yapay zeka alanında giderek birbirlerine daha fazla üstünlük sağlamaya çalışması niçiniyle sahiden de büyük kıymet taşıyor. Oxford Üniversitesi’nde makine tahsili profesörü olan ve komite toplantısına da katılan Michael Osborne, “güvenlik ve önlemi bir kenara bırakıp mümkün olan en süratli biçimde en gelişmiş YZ’ye ulaşmak isteyen” ABD ve Çin içinde “büyük bir YZ silahlanma yarışı” yaşanabileceği ihtarında bulundu.
Osborne, “Nükleer silahların kullanmasını düzenleme konusunda pek yeterli olduğumuz için umutlanmak için kimi niçinler var” dedi ve ekledi: “Eğer gelişmiş YZ’nin nükleer silahlarla karşılaştırılabilir bir tehlike olduğunu anlayabilirsek, bu biçimde tahminen de onu yönetmek için benzeri çerçevelere ulaşabiliriz.”
Cohen milletvekillerine “Bir köpeği ödüllerle eğittiğinizi hayal ederseniz, mükafatları almasını sağlayacak aksiyonları seçmeyi öğrenecektir” dedi ve ekledi: “Ancak köpek ödül dolabını bulursa, yapmasını istediğimiz şeyi yapmadan mükafatları kendisi alabilir.“
Başka bir deyişle, insanüstü bir yapay zeka, bir mükafatı elde etmek için “elinden geldiğince fazla enerji” harcama riskini taşır ve bu da “bizi kendimiz için güçsüz bırakır. Cohen’e nazaran bu teknolojiler ilerledikçe, “her alanda bizden hayli daha zeki” hale gelmeleri durumunda “fişi çekme” yeteneğine sahip olmamız gerekiyor. Cohen ve Osborne, insanlardan daha yetenekli yapay zekaların yüzyılın sonuna kadar ortaya çıkabileceğini ve bunun yanlışsız düzenlemelerle önlenebileceğini öngörüyorlar.
Uzmanlar, Birleşik Krallık hükümetinin Bilim ve Teknoloji Seçim Komitesi’nde milletvekillerine düzenlenmemiş yapay zeka (YZ) teknolojilerinin tehlikeleri hakkında bilgi verdiler. The Telegraph’ın aktardığına nazaran doktora öğrencisi Michael Cohen milletvekillerine şunları söylemiş oldu: “İnsanüstü yapay zeka ile farklı bir sınıfta yer alan özel bir risk var, bu da herkesi öldürebilir.“
Yapay Zeka Kıyameti
Bu riskler, siyasi güçlerin yapay zeka alanında giderek birbirlerine daha fazla üstünlük sağlamaya çalışması niçiniyle sahiden de büyük kıymet taşıyor. Oxford Üniversitesi’nde makine tahsili profesörü olan ve komite toplantısına da katılan Michael Osborne, “güvenlik ve önlemi bir kenara bırakıp mümkün olan en süratli biçimde en gelişmiş YZ’ye ulaşmak isteyen” ABD ve Çin içinde “büyük bir YZ silahlanma yarışı” yaşanabileceği ihtarında bulundu.
Osborne, “Nükleer silahların kullanmasını düzenleme konusunda pek yeterli olduğumuz için umutlanmak için kimi niçinler var” dedi ve ekledi: “Eğer gelişmiş YZ’nin nükleer silahlarla karşılaştırılabilir bir tehlike olduğunu anlayabilirsek, bu biçimde tahminen de onu yönetmek için benzeri çerçevelere ulaşabiliriz.”
Cohen milletvekillerine “Bir köpeği ödüllerle eğittiğinizi hayal ederseniz, mükafatları almasını sağlayacak aksiyonları seçmeyi öğrenecektir” dedi ve ekledi: “Ancak köpek ödül dolabını bulursa, yapmasını istediğimiz şeyi yapmadan mükafatları kendisi alabilir.“
Başka bir deyişle, insanüstü bir yapay zeka, bir mükafatı elde etmek için “elinden geldiğince fazla enerji” harcama riskini taşır ve bu da “bizi kendimiz için güçsüz bırakır. Cohen’e nazaran bu teknolojiler ilerledikçe, “her alanda bizden hayli daha zeki” hale gelmeleri durumunda “fişi çekme” yeteneğine sahip olmamız gerekiyor. Cohen ve Osborne, insanlardan daha yetenekli yapay zekaların yüzyılın sonuna kadar ortaya çıkabileceğini ve bunun yanlışsız düzenlemelerle önlenebileceğini öngörüyorlar.