Geoffrey Hinton
“Ya bizden daha akıllıysa?”: “Yapay zekanın babası” hayatının çalışmasından pişmanlık duyuyor ve bunun sonuçlarından korkuyor
Geoffrey Hinton 50 yıldır yapay zekayı araştırıyor
© Masahiro Sugimoto/ / Picture Alliance
Geoffrey Hinton, onlarca yıldır yapay zekanın gelişiminin arkasındaki itici güç olmuştur. Şimdi Google’daki işinden ayrıldı. Ve işinin sonuçları hakkında endişeleniyor.
Bu, günün teknoloji konusu. Geçen yılın sonundan bu yana, yapay zeka (AI) kamu bilincini tüm gücüyle vurdu. Her hafta, giderek daha etkileyici yeteneklere sahip yeni programlar tanıtılmaktadır. Aslında, Geoffrey Hinton gibi endüstri gazilerinin sonunda başarılarının meyvelerini toplaması gereken bir zaman. Bunun yerine Hinton, 50 yıllık AI gelişiminin ardından havlu attı. Heyecanı yerini korkuya bıraktı.
Hinton, “New York Times” ile yaptığı ayrıntılı bir röportajda bunu bildiriyor. Şu anda bu korku hakkında özgürce konuşmasının en son verdiği kararla ilgisi var: on yıldan fazla bir süre sonra, Hinton Google’dan henüz istifa etti. Çünkü şirketin ve rakiplerinin batmaya başladığını gözleri açık görüyor.
Şaşırtıcı derecede hızlı gelişme
Uzun bir süre teknolojinin insanlardan çok daha aşağı olduğuna inandı. “Ama ya sistemlerde olanlar aslında beynimizde olanlardan çok daha iyiyse,” diyerek endişesini özetliyor. Hinton, “Bu teknolojinin aslında insanlardan daha akıllı olabileceği fikrine çok az insan inanıyordu” diye hatırlıyor. “Çoğu kişi bunun hala çok uzak olduğunu düşündü. Ben de en az 30 ila 50 yıl süreceğini düşündüm” diye açıklıyor. “Artık böyle düşünmediğim çok açık.”
Gelişme hızı karşısında dehşete düşen Hinton, “Yapay zekanın bugün ve şimdi nerede olduğuna bakın” dedi. “Farkı alın ve geleceğe yansıtın. Korkunç.”
Google gibi şirketlerin bu tehlikeyi aynı ölçüde görmemesinden daha da endişeli. Geçen yıla kadar, riskleri sorumlu bir şekilde değerlendiren Google’ın teknolojinin “ciddi bir vaftiz babası” olduğunu düşünüyordu. Ancak şirket kendi chatbot’u Bard’ı baharda sunmaya çok alelacele tepki verdiği için bu inanç ortadan kalktı, fikrini değiştirdiğini açıklıyor. Sorumluluk, yerini teknolojik üstünlük için aceleci bir yarışa bıraktı.
AI’nın atası
Yeniden düşünmek dikkat çekici çünkü Hinton, teknolojinin en önemli düşünce liderlerinden biri. 1972 gibi erken bir tarihte, o zamanlar hâlâ Edinburgh’da eğitim gören uzman, gerçek yapay zekanın ancak insan beyni gibi bir tür sinirsel bağlantıya dayanması halinde elde edilebileceğini öne sürdü. 40 yıl sonra başardı: ekibiyle birlikte görüntülerdeki nesneleri bağımsız olarak tanıyabilmek için bir sinir ağını eğitti. Bugün sinir ağları, tüm modern yapay zeka yaklaşımlarının temelidir, Hinton’a genellikle “Yapay zekanın babası” denir.
Ve çalışmaları, en önemli iki şirketin doğrudan temelidir. Sinir ağını iki öğrenciyle halka açtıktan kısa bir süre sonra Google, şirketini 44 milyon dolara satın aldı. Eser, Bard’ın temeli olarak kabul edilir. Öğrencilerden biri olan Ilya Sutskever, OpenAI’ye geçti ve orada ChatGPT’de baş bilim adamı olarak çalışıyor.
sonuçlardan korkmak
Bugün, Hinton işinin sonuçlarından korkmaktadır. Midjourney gibi programların yanıltıcı şekilde gerçek görüntüler yaratma yeteneği ve komut üzerine metinler yazan ChatGPT gibi programlar nedeniyle, “yakında neyin gerçekten doğru olduğunu artık bilemeyeceğiz” diye korkuyor. Hinton karamsar bir tavırla, “Kötü adamların onu kötüye kullanmasını nasıl engelleyeceğimi bilemiyorum,” diyor.
Ancak, devlet düzenlemesinin zor olduğunu düşünüyor. Teknoloji devleri arasındaki rekabetin şirketlerin kendi kendilerini düzenleyememelerini sağladığını varsayıyor. Nükleer silahlardan farklı olarak dünyadaki gelişmeleri izlemek pek mümkün değil. Radikal önerisi: bilim adamları, daha fazla gelişmeyi bilinçli olarak yavaşlatmak için güçlerini birleştirmelidir. “Kontrol edip edemeyeceğimizi bilmeden bunun büyümesine izin vermemeliyiz.”
Hinton daha önce nükleer silahlarla karşılaştırmayı aksini ifade etmek için kullanmıştı. Atom bombasının mucidi Robert Oppenheimer her zaman şöyle derdi: “Teknik olarak çekici bir şey varsa, devam edin ve yapın.” Bunu sık sık alıntılardı, “NYT”ye itiraf ediyor. Bugün artık bunu yapmayacaktı. “Her zamanki bahaneyle kendimi avutuyorum” diye açıklıyor. “Ben yapmasaydım, başkası olacaktı.”
Kaynak: New York Times
#Konular
“Ya bizden daha akıllıysa?”: “Yapay zekanın babası” hayatının çalışmasından pişmanlık duyuyor ve bunun sonuçlarından korkuyor
Geoffrey Hinton 50 yıldır yapay zekayı araştırıyor
© Masahiro Sugimoto/ / Picture Alliance
Geoffrey Hinton, onlarca yıldır yapay zekanın gelişiminin arkasındaki itici güç olmuştur. Şimdi Google’daki işinden ayrıldı. Ve işinin sonuçları hakkında endişeleniyor.
Bu, günün teknoloji konusu. Geçen yılın sonundan bu yana, yapay zeka (AI) kamu bilincini tüm gücüyle vurdu. Her hafta, giderek daha etkileyici yeteneklere sahip yeni programlar tanıtılmaktadır. Aslında, Geoffrey Hinton gibi endüstri gazilerinin sonunda başarılarının meyvelerini toplaması gereken bir zaman. Bunun yerine Hinton, 50 yıllık AI gelişiminin ardından havlu attı. Heyecanı yerini korkuya bıraktı.
Hinton, “New York Times” ile yaptığı ayrıntılı bir röportajda bunu bildiriyor. Şu anda bu korku hakkında özgürce konuşmasının en son verdiği kararla ilgisi var: on yıldan fazla bir süre sonra, Hinton Google’dan henüz istifa etti. Çünkü şirketin ve rakiplerinin batmaya başladığını gözleri açık görüyor.
Şaşırtıcı derecede hızlı gelişme
Uzun bir süre teknolojinin insanlardan çok daha aşağı olduğuna inandı. “Ama ya sistemlerde olanlar aslında beynimizde olanlardan çok daha iyiyse,” diyerek endişesini özetliyor. Hinton, “Bu teknolojinin aslında insanlardan daha akıllı olabileceği fikrine çok az insan inanıyordu” diye hatırlıyor. “Çoğu kişi bunun hala çok uzak olduğunu düşündü. Ben de en az 30 ila 50 yıl süreceğini düşündüm” diye açıklıyor. “Artık böyle düşünmediğim çok açık.”
Gelişme hızı karşısında dehşete düşen Hinton, “Yapay zekanın bugün ve şimdi nerede olduğuna bakın” dedi. “Farkı alın ve geleceğe yansıtın. Korkunç.”
Google gibi şirketlerin bu tehlikeyi aynı ölçüde görmemesinden daha da endişeli. Geçen yıla kadar, riskleri sorumlu bir şekilde değerlendiren Google’ın teknolojinin “ciddi bir vaftiz babası” olduğunu düşünüyordu. Ancak şirket kendi chatbot’u Bard’ı baharda sunmaya çok alelacele tepki verdiği için bu inanç ortadan kalktı, fikrini değiştirdiğini açıklıyor. Sorumluluk, yerini teknolojik üstünlük için aceleci bir yarışa bıraktı.
AI’nın atası
Yeniden düşünmek dikkat çekici çünkü Hinton, teknolojinin en önemli düşünce liderlerinden biri. 1972 gibi erken bir tarihte, o zamanlar hâlâ Edinburgh’da eğitim gören uzman, gerçek yapay zekanın ancak insan beyni gibi bir tür sinirsel bağlantıya dayanması halinde elde edilebileceğini öne sürdü. 40 yıl sonra başardı: ekibiyle birlikte görüntülerdeki nesneleri bağımsız olarak tanıyabilmek için bir sinir ağını eğitti. Bugün sinir ağları, tüm modern yapay zeka yaklaşımlarının temelidir, Hinton’a genellikle “Yapay zekanın babası” denir.
Ve çalışmaları, en önemli iki şirketin doğrudan temelidir. Sinir ağını iki öğrenciyle halka açtıktan kısa bir süre sonra Google, şirketini 44 milyon dolara satın aldı. Eser, Bard’ın temeli olarak kabul edilir. Öğrencilerden biri olan Ilya Sutskever, OpenAI’ye geçti ve orada ChatGPT’de baş bilim adamı olarak çalışıyor.
sonuçlardan korkmak
Bugün, Hinton işinin sonuçlarından korkmaktadır. Midjourney gibi programların yanıltıcı şekilde gerçek görüntüler yaratma yeteneği ve komut üzerine metinler yazan ChatGPT gibi programlar nedeniyle, “yakında neyin gerçekten doğru olduğunu artık bilemeyeceğiz” diye korkuyor. Hinton karamsar bir tavırla, “Kötü adamların onu kötüye kullanmasını nasıl engelleyeceğimi bilemiyorum,” diyor.
Ancak, devlet düzenlemesinin zor olduğunu düşünüyor. Teknoloji devleri arasındaki rekabetin şirketlerin kendi kendilerini düzenleyememelerini sağladığını varsayıyor. Nükleer silahlardan farklı olarak dünyadaki gelişmeleri izlemek pek mümkün değil. Radikal önerisi: bilim adamları, daha fazla gelişmeyi bilinçli olarak yavaşlatmak için güçlerini birleştirmelidir. “Kontrol edip edemeyeceğimizi bilmeden bunun büyümesine izin vermemeliyiz.”
Hinton daha önce nükleer silahlarla karşılaştırmayı aksini ifade etmek için kullanmıştı. Atom bombasının mucidi Robert Oppenheimer her zaman şöyle derdi: “Teknik olarak çekici bir şey varsa, devam edin ve yapın.” Bunu sık sık alıntılardı, “NYT”ye itiraf ediyor. Bugün artık bunu yapmayacaktı. “Her zamanki bahaneyle kendimi avutuyorum” diye açıklıyor. “Ben yapmasaydım, başkası olacaktı.”
Kaynak: New York Times
#Konular