Profesör Stuart J Russell
“Bir AI Çernobil’i karşılayamayız”: Uzman, sınırsız AI gelişimine karşı sert sözlerle uyarıyor
Yapay zeka, ChatGPT (icon image) gibi programlarla sohbet ortağı oluyor
© imaginima / Getty Images
Açık bir mektupta uzmanlar, yapay zekayı engellenmeden kullanmadan önce sınırlandırılmasını istiyor. Aşağıda imzası bulunan Stuart J. Russell artık korkuları için sert sözler buldu.
Geçen yılın sonundan bu yana yapay zeka bir anda herkesin dilinde. ChatGPT gibi programlar veya Midjourney gibi görüntü oluşturucular sayesinde teknoloji ana akıma ulaştı. Açık bir mektupta, bir grup bilim adamı, uzman ve teknoloji devi, geliştirmenin durdurulması çağrısında bulundu. İmzalayan Stuart J. Russell şimdi bir röportajda daha da ileri gidiyor. Ve teknolojinin yaklaşan sonuçlarına karşı uyarır.
Russell, “Bu bir felaket tarifi,” diye inanıyor. Onlarca yıldır yapay zeka ile uğraşıyor, Berkeley Üniversitesi’nde profesör ve “Yapay Zeka: Modern Bir Yaklaşım” adlı standart çalışmanın yazarı. Düzenlenmemiş AI’daki mevcut artışın endüstri ve insanlık için bir dönüm noktası olduğu konusunda uyarıyor bir röportajda. “Yapay zeka için Çernobil’i karşılayamayız.”
felaket korkusu
Karşılaştırmayı tesadüfen seçmiyor: Onun için mevcut durum bir nükleer santral inşasıyla karşılaştırılabilir. “Bir nükleer santral inşa etmek isteseydim, hükümet benden bunun güvenli, depreme dayanıklı olduğunu ve patlamadığını kanıtlamamı isterdi” diyor. “Bunu yapamasaydım, o zaman hayır, sadece başla, sorun değil” demezlerdi. Bu nedenle, ona göre, sektöre hükümet tarafından – işbirliği içinde de olsa – sınırlar konulmalıdır.
Mevcut geliştirmeyle ilgili en büyük sorun, teknolojinin nasıl çalıştığını tam olarak bilmememizdir, diye açıklıyor Russell. Yapay zeka, yapay zeka modellerini veri kümeleri üzerinde eğitmeye ve ardından onları belirli bir yöne yönlendirmeye çalışır. “ChatGPT gibi programların bir Shakespeare şiiri tarzında matematiksel bir kanıt üretebileceğini oraya nasıl getirdiğimizi biliyoruz. Ama sonunda bunu nasıl yaptıklarına dair hiçbir fikrimiz yok. Sadece bilmiyoruz.” Bu aynı zamanda suiistimalden kaçınmayı daha da zorlaştırır, diye açıklıyor. “Bir köpeği azarlamak gibi. Ve yanlış bir şey yaptığında ona kötü bir köpek olduğunu söylemeye devam et. Umarım bundan ders alır.”
Yapay zeka
Bir sonraki yolculuk nereye gitmeli? ChatGPT’ye göre bunlar en iyi on tatil ülkesi
zor talep
Mart ayı sonunda yayınlanan ve Russell’ın yanı sıra teknoloji milyarderi Elon Musk ve Apple’ın kurucusu Steve Wozniak’ın da imzaladığı açık mektup, bu nedenle geliştirmenin durdurulması çağrısında bulunuyor. Ama bu Russell için yeterli değil. Profesör, “Bence orada gerekli olan altı ay yeterli değil,” diye açıklıyor. Ona göre, önce her yapay zeka türü için güvenli kullanım için bir kılavuz türü tanımlanmalı ve şirketler ancak uygunluk kanıtlandıktan sonra programlarını yayınlayabilir. “Bu yönergeler tanımlanamazsa, bunlara uyulduğunu kanıtlayamazsanız – o zaman bu sadece şanssızlık olur”; meydan okurcasına konuya giriyor.
Bununla birlikte, talebinin AI’nın reddi olarak anlaşılmaması uzman için önemlidir. “45 yıldır yapay zekayı araştırıyorum, onu seviyorum. Dünyayı olumlu yönde değiştirme potansiyelinin sınırsız olduğuna inanıyorum” diye açıklıyor. “Ama yapay zeka için gerçekten ciddi sonuçları olan bir Çernobil görmek istemiyoruz.” Sonuçların nasıl görünebileceği basitçe bilinmiyor. Bu nedenle Russell’ın net bir talebi var: “Büyümeli ve sonunda ciddi sonuçlar doğurma olasılığını ciddiye almalıyız.”
Kaynak:İşBugün
#Konular
“Bir AI Çernobil’i karşılayamayız”: Uzman, sınırsız AI gelişimine karşı sert sözlerle uyarıyor
Yapay zeka, ChatGPT (icon image) gibi programlarla sohbet ortağı oluyor
© imaginima / Getty Images
Açık bir mektupta uzmanlar, yapay zekayı engellenmeden kullanmadan önce sınırlandırılmasını istiyor. Aşağıda imzası bulunan Stuart J. Russell artık korkuları için sert sözler buldu.
Geçen yılın sonundan bu yana yapay zeka bir anda herkesin dilinde. ChatGPT gibi programlar veya Midjourney gibi görüntü oluşturucular sayesinde teknoloji ana akıma ulaştı. Açık bir mektupta, bir grup bilim adamı, uzman ve teknoloji devi, geliştirmenin durdurulması çağrısında bulundu. İmzalayan Stuart J. Russell şimdi bir röportajda daha da ileri gidiyor. Ve teknolojinin yaklaşan sonuçlarına karşı uyarır.
Russell, “Bu bir felaket tarifi,” diye inanıyor. Onlarca yıldır yapay zeka ile uğraşıyor, Berkeley Üniversitesi’nde profesör ve “Yapay Zeka: Modern Bir Yaklaşım” adlı standart çalışmanın yazarı. Düzenlenmemiş AI’daki mevcut artışın endüstri ve insanlık için bir dönüm noktası olduğu konusunda uyarıyor bir röportajda. “Yapay zeka için Çernobil’i karşılayamayız.”
felaket korkusu
Karşılaştırmayı tesadüfen seçmiyor: Onun için mevcut durum bir nükleer santral inşasıyla karşılaştırılabilir. “Bir nükleer santral inşa etmek isteseydim, hükümet benden bunun güvenli, depreme dayanıklı olduğunu ve patlamadığını kanıtlamamı isterdi” diyor. “Bunu yapamasaydım, o zaman hayır, sadece başla, sorun değil” demezlerdi. Bu nedenle, ona göre, sektöre hükümet tarafından – işbirliği içinde de olsa – sınırlar konulmalıdır.
Mevcut geliştirmeyle ilgili en büyük sorun, teknolojinin nasıl çalıştığını tam olarak bilmememizdir, diye açıklıyor Russell. Yapay zeka, yapay zeka modellerini veri kümeleri üzerinde eğitmeye ve ardından onları belirli bir yöne yönlendirmeye çalışır. “ChatGPT gibi programların bir Shakespeare şiiri tarzında matematiksel bir kanıt üretebileceğini oraya nasıl getirdiğimizi biliyoruz. Ama sonunda bunu nasıl yaptıklarına dair hiçbir fikrimiz yok. Sadece bilmiyoruz.” Bu aynı zamanda suiistimalden kaçınmayı daha da zorlaştırır, diye açıklıyor. “Bir köpeği azarlamak gibi. Ve yanlış bir şey yaptığında ona kötü bir köpek olduğunu söylemeye devam et. Umarım bundan ders alır.”
Yapay zeka
Bir sonraki yolculuk nereye gitmeli? ChatGPT’ye göre bunlar en iyi on tatil ülkesi
zor talep
Mart ayı sonunda yayınlanan ve Russell’ın yanı sıra teknoloji milyarderi Elon Musk ve Apple’ın kurucusu Steve Wozniak’ın da imzaladığı açık mektup, bu nedenle geliştirmenin durdurulması çağrısında bulunuyor. Ama bu Russell için yeterli değil. Profesör, “Bence orada gerekli olan altı ay yeterli değil,” diye açıklıyor. Ona göre, önce her yapay zeka türü için güvenli kullanım için bir kılavuz türü tanımlanmalı ve şirketler ancak uygunluk kanıtlandıktan sonra programlarını yayınlayabilir. “Bu yönergeler tanımlanamazsa, bunlara uyulduğunu kanıtlayamazsanız – o zaman bu sadece şanssızlık olur”; meydan okurcasına konuya giriyor.
Bununla birlikte, talebinin AI’nın reddi olarak anlaşılmaması uzman için önemlidir. “45 yıldır yapay zekayı araştırıyorum, onu seviyorum. Dünyayı olumlu yönde değiştirme potansiyelinin sınırsız olduğuna inanıyorum” diye açıklıyor. “Ama yapay zeka için gerçekten ciddi sonuçları olan bir Çernobil görmek istemiyoruz.” Sonuçların nasıl görünebileceği basitçe bilinmiyor. Bu nedenle Russell’ın net bir talebi var: “Büyümeli ve sonunda ciddi sonuçlar doğurma olasılığını ciddiye almalıyız.”
Kaynak:İşBugün
#Konular