Manipülasyona karşı strateji
OpenAI, ABD seçim kampanyasında yapay zekanın kötüye kullanımını nasıl önlemek istiyor?
Mart 2023'ün sonunda, eski ABD Başkanı Donald Trump'ın tutuklandığı iddiasını gösteren bu görüntüler ortalığı karıştırdı, ancak tüm bunlar hiçbir zaman gerçekleşmedi; görüntüler yapay zeka tarafından oluşturuldu.
© Elliot Higgins, Twitter aracılığıyla
Yapay zeka, seçimleri manipüle etmeyi her zamankinden daha kolay hale getiriyor. ChatGPT operatörü OpenAI şimdi kötüye kullanım riskini en aza indirecek bir plan sundu. Zamanlama tesadüf değil.
Bu yıl her zamankinden daha fazla ülkede seçimler yapılacak: 50'den fazla ülkede halk, siyasi liderlerine oy verecek. Aynı zamanda manipülasyon riski de her zamankinden daha yüksek. Üretken yapay zekadaki devrim sayesinde rakibi kötü gösterecek görseller, metinler ve hatta Haberlar anında oluşturulabiliyor. Yapay zeka geliştirmede ön saflarda yer alan şirketlerden biri, OpenAI ile artık buna bir son verme kararlılığında.
Operatör tehlikenin büyük olduğunun farkındaydı ChatGPT uzun zamandır bunun farkındaydı. OpenAI patronu Sam Altman geçen yaz eski adıyla Twitter olan kısa mesaj servisi X'e “Yapay zekanın gelecekteki seçimler üzerinde nasıl bir etkisi olacağı konusunda endişeliyim” dedi. “Kişiselleştirilmiş bire bir ikna, yüksek kaliteli medyayla birlikte muazzam bir güç geliştirecek” diye inanıyordu. Beş ay sonra şirket şimdi bunu önlemek için tam olarak ne gibi önlemler almak istediğini açıklıyor.
Manipülasyon korkusu
Şirket, blog yazısında seçimleri manipülasyondan korumanın herkesin işi olduğunu vurguluyor. “Ve teknolojimizin bu süreci baltalayacak şekilde kullanılmamasını sağlamak istiyoruz.” ChatGPT'nin (şu ana kadar en iyi bilinen metin oluşturma yapay zekası) ve görüntü oluşturma yapay zekası Dall-E'nin kötüye kullanımını önlemek için çeşitli yaklaşımlar geliştirildi.
ChatGPT artık siyasi kampanyalar oluşturamayacak veya lobicilik metinleri yazamayacak. Siyasi adayları taklit eden sohbet botları oluşturmak da yasaktır. Şirket, güncel siyasi bilgilere yer verebilmek için uluslararası haber yayıncılarıyla da yakın işbirliği içinde çalışmaktadır. Yapay zeka artık ABD oylama yasasıyla ilgili bilgileri doğrudan partizan olmayan seçim kuruluşu NASS'tan alıyor.
Geçtiğimiz yıl politikacıların çeşitli yapay zeka görüntüleri viral hale geldiğinden, Dall-E'nin de koruyucu önlemler alması gerekiyor. OpenAI, filigranları Dall-E ile oluşturulan görüntülere dahil etmek için AI şirketlerinden oluşan bir koalisyonla birlikte çalışıyor. Bu şekilde yapay zeka sahtekarlıklarının hızlı bir şekilde tespit edilmesi gerekiyor. “Orijin sınıflandırması” adı verilen araç, Dall-E ile oluşturulan görüntülerin filigran olmadan bile tanınmasına yardımcı olmayı amaçlamaktadır. Tedbirlerin tamamının yakın gelecekte uygulamaya konulması gerekiyor.
Çift paten: İki görüntüden hangisi yapay zekadan geliyor?
Bu canlı kurbağa görüntülerinden hangisi yapay zekadan geliyor?
Bu iki kızdan hangisi yapay zeka tarafından canlandırıldı?
Kaplanlardan hangisi yapay zeka tarafından tasarlandı?
Solda yıpranmış bir futbolcu, sağda bir rugby oyuncusu; hangi sporcu yapay zeka tarafından tasarlandı?
Bu sürücülerden hangisi yapay zekadan geliyor?
Yemek için, değil mi? Ancak bir kase çilek yalnızca yapay zekadan gelir. Hangi?
Bu zarif beyefendilerden hangisi yapay zeka tarafından tasarlandı?
Bu dağ kulübelerinden hangisi yapay zeka tarafından tasarlandı?
Yapay zeka tarafından resme hangi siluetler yerleştirildi?
Peter Fox zaten “Göl Kenarındaki Ev”i övmüştü; bu iki kulübeden hangisi yapay zekadan geliyor?
Bu makarna yemeklerinden hangisi aslında yapay zekadan geldiği için sadece meşhur göz tarafından yenir?
Hala iyileştirme için yer var!
Kredi
KI: Derik Meinköhn / Yolculuk Arası
Fotoğraflar: Adobe
Bu çok iyiydi!
Kredi
KI: Derik Meinköhn / Yolculuk Arası
Fotoğraflar: Adobe
Şerefe! Kolay kolay kandırılmazsınız!
Kredi
KI: Derik Meinköhn / Yolculuk Arası
Fotoğraflar: Adobe
Gecikmiş önlemler
Yapay zeka endüstrisinin bu tür önlemleri ancak şimdi uygulamaya başlaması aslında şaşırtıcı. Sosyal medyada son yıllarda yaşanan deneyimler, yeni teknolojilerin izin verdiği ölçüde siyasi aktörlerin ne ölçüde istismara başvurduğunu gösterdi. Kısa sürede yeni içerik oluşturmak için kullanılabilecek araçların, olası suiistimalleri ve uygun karşı önlemleri çok daha önceden düşünebilmesi gerekirdi.
Zaten yeterince örnek var. Geçtiğimiz yıl, Donald Trump'ın tutuklanmasının yapay zeka tarafından oluşturulan görüntüleri ortalıkta dolaştı ve AfD, ortamı karıştırmak için sözde mültecilerin görüntülerini kullandı. Kurucu parti konferansının ardından geride bırakılan pizza kutularının görüntüleri, görüntülerin yapay zeka tarafından oluşturulduğu tespit edildikten sonra bile sosyal medyada öfkeye neden oldu (daha fazlasını burada bulabilirsiniz).
Küresel süper seçim yılı
Tedbirlerin gelmesi çok uzun sürmemeliydi: ABD, Hindistan, İngiltere, Rusya ve diğer birçok ülkeyle birlikte, dünya nüfusunun neredeyse yarısı bu yıl 50'den fazla ülkede sandık başına çağrılacak. Özellikle ABD'de mevcut Başkan Joe Biden ile muhtemel rakibi Donald Trump arasında yapılan seçim çığır açıcı olarak görülüyor ve aynı zamanda büyük bir manipülasyon riski taşıyor.
OpenAI'nin planlarının kötüye kullanımı gerçekte ne kadar iyi kontrol altında tutabileceği henüz bilinmiyor. Meta gibi sosyal medya şirketleri yıllardır yeni yöntemlerle manipülasyona karşı mücadele ediyor. Ölçülebilir başarılara rağmen, en büyük tehlikeyi henüz kontrol altına alamadılar: Eğer seçmenler yalan haberlere inanmak istiyorsa, doğruluk kontrolü bile çoğu zaman onları durduramıyor.
Kaynaklar:OpenAI, Axios, AP, X
#Konular
OpenAI, ABD seçim kampanyasında yapay zekanın kötüye kullanımını nasıl önlemek istiyor?
Mart 2023'ün sonunda, eski ABD Başkanı Donald Trump'ın tutuklandığı iddiasını gösteren bu görüntüler ortalığı karıştırdı, ancak tüm bunlar hiçbir zaman gerçekleşmedi; görüntüler yapay zeka tarafından oluşturuldu.
© Elliot Higgins, Twitter aracılığıyla
Yapay zeka, seçimleri manipüle etmeyi her zamankinden daha kolay hale getiriyor. ChatGPT operatörü OpenAI şimdi kötüye kullanım riskini en aza indirecek bir plan sundu. Zamanlama tesadüf değil.
Bu yıl her zamankinden daha fazla ülkede seçimler yapılacak: 50'den fazla ülkede halk, siyasi liderlerine oy verecek. Aynı zamanda manipülasyon riski de her zamankinden daha yüksek. Üretken yapay zekadaki devrim sayesinde rakibi kötü gösterecek görseller, metinler ve hatta Haberlar anında oluşturulabiliyor. Yapay zeka geliştirmede ön saflarda yer alan şirketlerden biri, OpenAI ile artık buna bir son verme kararlılığında.
Operatör tehlikenin büyük olduğunun farkındaydı ChatGPT uzun zamandır bunun farkındaydı. OpenAI patronu Sam Altman geçen yaz eski adıyla Twitter olan kısa mesaj servisi X'e “Yapay zekanın gelecekteki seçimler üzerinde nasıl bir etkisi olacağı konusunda endişeliyim” dedi. “Kişiselleştirilmiş bire bir ikna, yüksek kaliteli medyayla birlikte muazzam bir güç geliştirecek” diye inanıyordu. Beş ay sonra şirket şimdi bunu önlemek için tam olarak ne gibi önlemler almak istediğini açıklıyor.
Manipülasyon korkusu
Şirket, blog yazısında seçimleri manipülasyondan korumanın herkesin işi olduğunu vurguluyor. “Ve teknolojimizin bu süreci baltalayacak şekilde kullanılmamasını sağlamak istiyoruz.” ChatGPT'nin (şu ana kadar en iyi bilinen metin oluşturma yapay zekası) ve görüntü oluşturma yapay zekası Dall-E'nin kötüye kullanımını önlemek için çeşitli yaklaşımlar geliştirildi.
ChatGPT artık siyasi kampanyalar oluşturamayacak veya lobicilik metinleri yazamayacak. Siyasi adayları taklit eden sohbet botları oluşturmak da yasaktır. Şirket, güncel siyasi bilgilere yer verebilmek için uluslararası haber yayıncılarıyla da yakın işbirliği içinde çalışmaktadır. Yapay zeka artık ABD oylama yasasıyla ilgili bilgileri doğrudan partizan olmayan seçim kuruluşu NASS'tan alıyor.
Geçtiğimiz yıl politikacıların çeşitli yapay zeka görüntüleri viral hale geldiğinden, Dall-E'nin de koruyucu önlemler alması gerekiyor. OpenAI, filigranları Dall-E ile oluşturulan görüntülere dahil etmek için AI şirketlerinden oluşan bir koalisyonla birlikte çalışıyor. Bu şekilde yapay zeka sahtekarlıklarının hızlı bir şekilde tespit edilmesi gerekiyor. “Orijin sınıflandırması” adı verilen araç, Dall-E ile oluşturulan görüntülerin filigran olmadan bile tanınmasına yardımcı olmayı amaçlamaktadır. Tedbirlerin tamamının yakın gelecekte uygulamaya konulması gerekiyor.
Çift paten: İki görüntüden hangisi yapay zekadan geliyor?
Bu canlı kurbağa görüntülerinden hangisi yapay zekadan geliyor?
Bu iki kızdan hangisi yapay zeka tarafından canlandırıldı?
Kaplanlardan hangisi yapay zeka tarafından tasarlandı?
Solda yıpranmış bir futbolcu, sağda bir rugby oyuncusu; hangi sporcu yapay zeka tarafından tasarlandı?
Bu sürücülerden hangisi yapay zekadan geliyor?
Yemek için, değil mi? Ancak bir kase çilek yalnızca yapay zekadan gelir. Hangi?
Bu zarif beyefendilerden hangisi yapay zeka tarafından tasarlandı?
Bu dağ kulübelerinden hangisi yapay zeka tarafından tasarlandı?
Yapay zeka tarafından resme hangi siluetler yerleştirildi?
Peter Fox zaten “Göl Kenarındaki Ev”i övmüştü; bu iki kulübeden hangisi yapay zekadan geliyor?
Bu makarna yemeklerinden hangisi aslında yapay zekadan geldiği için sadece meşhur göz tarafından yenir?
Hala iyileştirme için yer var!
Kredi
KI: Derik Meinköhn / Yolculuk Arası
Fotoğraflar: Adobe
Bu çok iyiydi!
Kredi
KI: Derik Meinköhn / Yolculuk Arası
Fotoğraflar: Adobe
Şerefe! Kolay kolay kandırılmazsınız!
Kredi
KI: Derik Meinköhn / Yolculuk Arası
Fotoğraflar: Adobe
Gecikmiş önlemler
Yapay zeka endüstrisinin bu tür önlemleri ancak şimdi uygulamaya başlaması aslında şaşırtıcı. Sosyal medyada son yıllarda yaşanan deneyimler, yeni teknolojilerin izin verdiği ölçüde siyasi aktörlerin ne ölçüde istismara başvurduğunu gösterdi. Kısa sürede yeni içerik oluşturmak için kullanılabilecek araçların, olası suiistimalleri ve uygun karşı önlemleri çok daha önceden düşünebilmesi gerekirdi.
Zaten yeterince örnek var. Geçtiğimiz yıl, Donald Trump'ın tutuklanmasının yapay zeka tarafından oluşturulan görüntüleri ortalıkta dolaştı ve AfD, ortamı karıştırmak için sözde mültecilerin görüntülerini kullandı. Kurucu parti konferansının ardından geride bırakılan pizza kutularının görüntüleri, görüntülerin yapay zeka tarafından oluşturulduğu tespit edildikten sonra bile sosyal medyada öfkeye neden oldu (daha fazlasını burada bulabilirsiniz).
Küresel süper seçim yılı
Tedbirlerin gelmesi çok uzun sürmemeliydi: ABD, Hindistan, İngiltere, Rusya ve diğer birçok ülkeyle birlikte, dünya nüfusunun neredeyse yarısı bu yıl 50'den fazla ülkede sandık başına çağrılacak. Özellikle ABD'de mevcut Başkan Joe Biden ile muhtemel rakibi Donald Trump arasında yapılan seçim çığır açıcı olarak görülüyor ve aynı zamanda büyük bir manipülasyon riski taşıyor.
OpenAI'nin planlarının kötüye kullanımı gerçekte ne kadar iyi kontrol altında tutabileceği henüz bilinmiyor. Meta gibi sosyal medya şirketleri yıllardır yeni yöntemlerle manipülasyona karşı mücadele ediyor. Ölçülebilir başarılara rağmen, en büyük tehlikeyi henüz kontrol altına alamadılar: Eğer seçmenler yalan haberlere inanmak istiyorsa, doğruluk kontrolü bile çoğu zaman onları durduramıyor.
Kaynaklar:OpenAI, Axios, AP, X
#Konular