Yapay zeka
ChatGPT: OpenAI patronu, AI düzenlemesini savunuyor
ChatGPT yaratıcısı Sam Altman, ABD Senatosu duruşması sırasında konuşuyor. Fotoğraf
© Patrick Semansky/AP/dpa
OpenAI, ChatGPT metin makinesiyle mevcut yapay zeka heyecanını tetikledi. Ancak şirketin başkanı da endişelerini dile getiriyor ve şimdi birkaç önlem öneriyor.
ChatGPT’nin mucidi OpenAI’nin patronu, yapay zekanın yardımıyla yanlış bilgi yayma riskini görüyor ve katı düzenlemelerden yana konuşuyor. Sam Altman Salı günü Washington’da ABD Senatosu’nda yapılan bir duruşmada, tek başına gereken muazzam kaynaklar nedeniyle, yapay zeka modellerinin eğitiminde öncü olabilecek yalnızca birkaç şirket olacağını söyledi. Sıkı bir gözetim altında tutulmaları gerekecekti.
Altman’ın OpenAI’si, ChatGPT metin makinesi ve metin açıklamalarına dayalı olarak resimler oluşturabilen yazılımla mevcut AI yutturmacasını tetikledi.
ChatGPT, bir cümlenin olası devamını kelime kelime tahmin ederek metinleri formüle eder. Bu prosedürün bir sonucu, yazılımın yalnızca doğru bilgileri değil, aynı zamanda tamamen yanlış bilgileri de icat etmesidir – ancak kullanıcı için fark edilebilir bir fark yoktur. Bu nedenle, becerilerinin örneğin yanlış bilgi üretmek ve yaymak için kullanılabileceğine dair bir korku var. Altman da duruşmada bu endişesini dile getirdi.
Altman yeni devlet kurumu önerdi
Altman, AI modellerini test edebilecek yeni bir devlet kurumu oluşturmayı önerdi. Yapay zeka için bir dizi güvenlik testi yapılmalı – örneğin bağımsız olarak yayılabilir mi? Belirlenen standartlara uymayan şirketlerin lisansları iptal edilmelidir. AI sistemleri bağımsız uzmanlar tarafından da kontrol edilebilmelidir.
Altman, AI teknolojisinin gelecekte otomasyon yoluyla bazı işleri ortadan kaldırabileceğini kabul etti. Ancak aynı zamanda “çok daha iyi işler” yaratma potansiyeline de sahip.
Bir Senato alt komitesindeki duruşma sırasında Altmann, OpenAI programlarının şu anda olduğu gibi abonelik yerine reklamla da sunulabileceği olasılığını dışlamadı.
dpa
#Konular
ChatGPT: OpenAI patronu, AI düzenlemesini savunuyor
ChatGPT yaratıcısı Sam Altman, ABD Senatosu duruşması sırasında konuşuyor. Fotoğraf
© Patrick Semansky/AP/dpa
OpenAI, ChatGPT metin makinesiyle mevcut yapay zeka heyecanını tetikledi. Ancak şirketin başkanı da endişelerini dile getiriyor ve şimdi birkaç önlem öneriyor.
ChatGPT’nin mucidi OpenAI’nin patronu, yapay zekanın yardımıyla yanlış bilgi yayma riskini görüyor ve katı düzenlemelerden yana konuşuyor. Sam Altman Salı günü Washington’da ABD Senatosu’nda yapılan bir duruşmada, tek başına gereken muazzam kaynaklar nedeniyle, yapay zeka modellerinin eğitiminde öncü olabilecek yalnızca birkaç şirket olacağını söyledi. Sıkı bir gözetim altında tutulmaları gerekecekti.
Altman’ın OpenAI’si, ChatGPT metin makinesi ve metin açıklamalarına dayalı olarak resimler oluşturabilen yazılımla mevcut AI yutturmacasını tetikledi.
ChatGPT, bir cümlenin olası devamını kelime kelime tahmin ederek metinleri formüle eder. Bu prosedürün bir sonucu, yazılımın yalnızca doğru bilgileri değil, aynı zamanda tamamen yanlış bilgileri de icat etmesidir – ancak kullanıcı için fark edilebilir bir fark yoktur. Bu nedenle, becerilerinin örneğin yanlış bilgi üretmek ve yaymak için kullanılabileceğine dair bir korku var. Altman da duruşmada bu endişesini dile getirdi.
Altman yeni devlet kurumu önerdi
Altman, AI modellerini test edebilecek yeni bir devlet kurumu oluşturmayı önerdi. Yapay zeka için bir dizi güvenlik testi yapılmalı – örneğin bağımsız olarak yayılabilir mi? Belirlenen standartlara uymayan şirketlerin lisansları iptal edilmelidir. AI sistemleri bağımsız uzmanlar tarafından da kontrol edilebilmelidir.
Altman, AI teknolojisinin gelecekte otomasyon yoluyla bazı işleri ortadan kaldırabileceğini kabul etti. Ancak aynı zamanda “çok daha iyi işler” yaratma potansiyeline de sahip.
Bir Senato alt komitesindeki duruşma sırasında Altmann, OpenAI programlarının şu anda olduğu gibi abonelik yerine reklamla da sunulabileceği olasılığını dışlamadı.
dpa
#Konular