Hindistan'da sona eren seçim yalnızca dünyadaki en büyük seçim değil. Aynı zamanda yapay zekanın siyasette kullanımına dair ders kitabı niteliğinde bir örnektir.
Harikrishnan Vasanthakumar dört yıldır ölü. Ancak bir Haberda oğlunu canlı bir coşkuyla övüyor. Eski siyasetçi seçmenlere, Hindistan'daki parlamento seçimlerinden zaferle çıkması halinde iyi bir iş çıkaracağını garanti ediyor. Oğlunun kampanyaya katılması sırasında sanal olarak yeniden doğuşu, yapay zekanın (AI) kullanılmasıyla mümkün oldu.
Dünyanın en büyük seçimlerinde (Hindistan dünyanın en kalabalık ülkesi) Vasanthakumar'ınki gibi yapay zeka tarafından üretilen içeriğin bolluğundan kaçmak zordu. Son haftalarda tüm büyük partiler seçim kampanyalarında yapay zekayı hevesle kullanıyor. Başbakan Narendra Modi de onlardan biri. Ona göre yapay zeka kullanımının meyvesini vermesi muhtemel: anketler görevde üçüncü döneme işaret ediyor. Son oy verme merkezleri bu cumartesi kapanıyor. Sonuç 4 Haziran'da açıklanacak.
Deepfake olarak seçim kampanyası reklamı
Berlin'deki Alman Dış İlişkiler Konseyi'ndeki seçimlerde yapay zekayı araştıran Katja Muñoz, Hindistan'ın yapay zekanın siyasette kullanımı için büyük bir test laboratuvarı olduğunu ve bu nedenle diğer ülkeler için bir rehber olabileceğini söylüyor. Teknolojinin manipülasyon için büyük potansiyeli var. Ancak olumlu yönleri de görüyor: “Yapay zekayla daha fazla insana ulaşmak istiyorsanız veya yapay zekayı farklı dillerde konuşmak için kullanıyorsanız bu kınanacak bir şey değil” diyor uzman. Tıpkı her yerde mevcut olan Modi'nin Hindistan'da yaptığı gibi. Çevresindeki gerçek kişilik kültünün bir parçası olarak, yapay zeka sayesinde seçmenlerle birçok dilde konuştu; hatta kendisi bile konuşmuyor. Bunun iyi bir şey olup olmadığı dünyanın en büyük demokrasisinde neredeyse hiç kimsenin bahsetmediği bir konu.
Uzman Muñoz, “Ancak yapay zekanın etiketlenmemesi kınanacak bir durumdur” diyor. Hindistan'da haftalarca süren seçim kampanyası sırasında zaman zaman tam da bu durum yaşandı. Örneğin, Bollywood oyuncularının yapay zeka tarafından oluşturulan kayıtlarda hükümet başkanını eleştirdiği görüldü ve duyuldu. Ve tüm bunlar, gösterilen insanların bundan haberi olmadan gerçekleşti.
Viral hale gelen başka bir yapay zeka Habersunda muhalefet lideri Rahul Gandhi, Modi'nin kendisi gibi yozlaşmış insanları hapse göndermesi nedeniyle görevinden istifa edeceğini açıkladı. Doğrulayıcılar daha sonra Habernun sahte olduğunu anladı. Yapay zeka ile oluşturuldu. Uzmanlar deepfake'lerden bahsediyor: Yapay zeka teknikleri kullanılarak değiştirilmiş, oluşturulmuş veya tahrif edilmiş gerçekçi görünümlü medya içeriği.
Yapay zeka sayesinde ulaşın
Bu tür derin sahtekarlıkların uzmanı Hintli Divyendra Singh Jadoun'dur. Yeni Delhi'deki Alman Basın Ajansı'na diğer şirketler gibi sentetik içeriği hizmet olarak sunan Polymath Synthetic Media Solutions şirketinin başkanı, büyük partilerin yapay zeka sayesinde seçim kampanyasında daha fazla erişim elde ettiğini söyledi. Sonuçta, toplam neredeyse bir milyar seçmen alt meclisin oluşumu konusunda oy kullanmaya çağrıldı.
Erişim rekabetçi bir faktör haline gelir. Divyendra Singh Jadoun'unki gibi start-up'lar, müşterilerine kamera önünde bir mesaj okuttu ve ardından bir bilgisayar, müşterilerin yüz hareketlerini ve seslerini analiz etti. Bu daha sonra adayların sözde seçim çalışanlarına kişisel olarak hitap ettiği yapay zeka Haberları oluşturmak için kullanıldı. Alıcıların isimleri ve cep telefonu numaraları bir veritabanından geliyor. Kişiselleştirilmiş AI Haberları, WhatsApp aracılığıyla doğrudan yardımcıların cep telefonlarına gönderildi.
Teknoloji direktörü Vinay Despande, danışmanlık firması Rajneethi Political Management'ın bu şekilde 28 aday için seçmenlere toplam altı milyona yakın kişiselleştirilmiş Haber mesajı gönderdiğini iddia ettiğini söylüyor. Şirketi ayrıca ilgili tarafların cep telefonlarıyla tarayabilecekleri QR kodları da oluşturdu; bunun üzerine kişisel ortamlarındaki bir politikacının avatarı ekranda belirdi. Despande, “Kodun nereye tarandığına bağlı olarak farklı bir konuşma yapıyor” diyor. Örneğin, çok sayıda gencin yaşadığı bir bölgede aday, istihdam yaratılmasından bahsetti.
Politikacı chatbotları halüsinasyon görüyor
Ancak bu tür yapay zeka şirketleri, örneğin adayların seslerini kullanan etkileşimli sohbet robotu çağrılarıyla sürekli olarak teknik sınırlarına ulaşıyor: Potansiyel seçmenler bu nedenle doğrudan görüşme arayışına girebiliyor. Divyendra Singh Jadoun, “Dil modelini seçim manifestosuyla ilgili bilgilerle eğitiyoruz, ancak bazen halüsinasyon görüyor” diyor. “Örneğin, bir siyasetçinin kendini kadınlara adamış olduğu ama öyle olmadığı halde kendini adamış olduğu söyleniyor.” Şirketinin kendi etik standartlarını belirlediğini söylüyor.
Yalnızca “olumlu” taklitler yaratıyor; kişisel Haberlar, politikacıların seçmenlerle birlikte fotoğraf çektirdiği hologramlar veya politikacılar ve onların başarıları hakkında propaganda şarkıları. Siyasi muhaliflerin pornosunu oluşturma taleplerini reddetti. Ancak girişimci, bugün yazılımla deepfake oluşturmak için artık herhangi bir teknik bilgiye ihtiyacınız olmadığı konusunda uyarıyor. Başbakan Modi'nin hükümeti bile bahardaki seçimlerde yapay zekaya karşı uyarıda bulundu; ancak daha sonra seçim kampanyasında bizzat teknolojiyi kullandı. Hükümetin önceden uyarıda bulunmasının nedeni, ABD'li teknoloji devi Google'ın Gemini adlı yapay zeka aracının, 73 yaşındaki hükümet başkanının faşist olduğu yönündeki açıklamayı göstermesiydi.
Bununla birlikte partiler, seçim kampanyası sırasında rakiplerini sosyal ağlarda kötü göstermek ve yorum sütunlarında onları karalamak için çevrimiçi trollere ve içerik üreticilerine yatırım yaptı. Modi'nin Hindu milliyetçi partisinin bunun için en büyük bütçeye sahip olduğu bildirildi. Münih Ludwig Maximilian Üniversitesi Yapay Zeka Etiği Profesörü Sven Nyholm, demokrasiyi korumak ve geliştirmek amacıyla yapay zekayı kullanmak için yeni yasalara ihtiyaç olduğunu söylüyor.
Bu arada gelişmeler de sürüyor. Vinay Despande, Hindistan'daki siyasi iletişimin hiçbir zaman yapay zekanın kullanılmaya başlanmasından önceki gibi olmayacağını söylüyor. Polymath Synthetic Media Solutions şirketi, Kasım ayında yapılacak ABD başkanlık seçimleri öncesinde hizmetlerini Demokratlara ve Cumhuriyetçilere tanıtmaya çalışıyor.
dpa
#Konular
Harikrishnan Vasanthakumar dört yıldır ölü. Ancak bir Haberda oğlunu canlı bir coşkuyla övüyor. Eski siyasetçi seçmenlere, Hindistan'daki parlamento seçimlerinden zaferle çıkması halinde iyi bir iş çıkaracağını garanti ediyor. Oğlunun kampanyaya katılması sırasında sanal olarak yeniden doğuşu, yapay zekanın (AI) kullanılmasıyla mümkün oldu.
Dünyanın en büyük seçimlerinde (Hindistan dünyanın en kalabalık ülkesi) Vasanthakumar'ınki gibi yapay zeka tarafından üretilen içeriğin bolluğundan kaçmak zordu. Son haftalarda tüm büyük partiler seçim kampanyalarında yapay zekayı hevesle kullanıyor. Başbakan Narendra Modi de onlardan biri. Ona göre yapay zeka kullanımının meyvesini vermesi muhtemel: anketler görevde üçüncü döneme işaret ediyor. Son oy verme merkezleri bu cumartesi kapanıyor. Sonuç 4 Haziran'da açıklanacak.
Deepfake olarak seçim kampanyası reklamı
Berlin'deki Alman Dış İlişkiler Konseyi'ndeki seçimlerde yapay zekayı araştıran Katja Muñoz, Hindistan'ın yapay zekanın siyasette kullanımı için büyük bir test laboratuvarı olduğunu ve bu nedenle diğer ülkeler için bir rehber olabileceğini söylüyor. Teknolojinin manipülasyon için büyük potansiyeli var. Ancak olumlu yönleri de görüyor: “Yapay zekayla daha fazla insana ulaşmak istiyorsanız veya yapay zekayı farklı dillerde konuşmak için kullanıyorsanız bu kınanacak bir şey değil” diyor uzman. Tıpkı her yerde mevcut olan Modi'nin Hindistan'da yaptığı gibi. Çevresindeki gerçek kişilik kültünün bir parçası olarak, yapay zeka sayesinde seçmenlerle birçok dilde konuştu; hatta kendisi bile konuşmuyor. Bunun iyi bir şey olup olmadığı dünyanın en büyük demokrasisinde neredeyse hiç kimsenin bahsetmediği bir konu.
Uzman Muñoz, “Ancak yapay zekanın etiketlenmemesi kınanacak bir durumdur” diyor. Hindistan'da haftalarca süren seçim kampanyası sırasında zaman zaman tam da bu durum yaşandı. Örneğin, Bollywood oyuncularının yapay zeka tarafından oluşturulan kayıtlarda hükümet başkanını eleştirdiği görüldü ve duyuldu. Ve tüm bunlar, gösterilen insanların bundan haberi olmadan gerçekleşti.
Viral hale gelen başka bir yapay zeka Habersunda muhalefet lideri Rahul Gandhi, Modi'nin kendisi gibi yozlaşmış insanları hapse göndermesi nedeniyle görevinden istifa edeceğini açıkladı. Doğrulayıcılar daha sonra Habernun sahte olduğunu anladı. Yapay zeka ile oluşturuldu. Uzmanlar deepfake'lerden bahsediyor: Yapay zeka teknikleri kullanılarak değiştirilmiş, oluşturulmuş veya tahrif edilmiş gerçekçi görünümlü medya içeriği.
Yapay zeka sayesinde ulaşın
Bu tür derin sahtekarlıkların uzmanı Hintli Divyendra Singh Jadoun'dur. Yeni Delhi'deki Alman Basın Ajansı'na diğer şirketler gibi sentetik içeriği hizmet olarak sunan Polymath Synthetic Media Solutions şirketinin başkanı, büyük partilerin yapay zeka sayesinde seçim kampanyasında daha fazla erişim elde ettiğini söyledi. Sonuçta, toplam neredeyse bir milyar seçmen alt meclisin oluşumu konusunda oy kullanmaya çağrıldı.
Erişim rekabetçi bir faktör haline gelir. Divyendra Singh Jadoun'unki gibi start-up'lar, müşterilerine kamera önünde bir mesaj okuttu ve ardından bir bilgisayar, müşterilerin yüz hareketlerini ve seslerini analiz etti. Bu daha sonra adayların sözde seçim çalışanlarına kişisel olarak hitap ettiği yapay zeka Haberları oluşturmak için kullanıldı. Alıcıların isimleri ve cep telefonu numaraları bir veritabanından geliyor. Kişiselleştirilmiş AI Haberları, WhatsApp aracılığıyla doğrudan yardımcıların cep telefonlarına gönderildi.
Teknoloji direktörü Vinay Despande, danışmanlık firması Rajneethi Political Management'ın bu şekilde 28 aday için seçmenlere toplam altı milyona yakın kişiselleştirilmiş Haber mesajı gönderdiğini iddia ettiğini söylüyor. Şirketi ayrıca ilgili tarafların cep telefonlarıyla tarayabilecekleri QR kodları da oluşturdu; bunun üzerine kişisel ortamlarındaki bir politikacının avatarı ekranda belirdi. Despande, “Kodun nereye tarandığına bağlı olarak farklı bir konuşma yapıyor” diyor. Örneğin, çok sayıda gencin yaşadığı bir bölgede aday, istihdam yaratılmasından bahsetti.
Politikacı chatbotları halüsinasyon görüyor
Ancak bu tür yapay zeka şirketleri, örneğin adayların seslerini kullanan etkileşimli sohbet robotu çağrılarıyla sürekli olarak teknik sınırlarına ulaşıyor: Potansiyel seçmenler bu nedenle doğrudan görüşme arayışına girebiliyor. Divyendra Singh Jadoun, “Dil modelini seçim manifestosuyla ilgili bilgilerle eğitiyoruz, ancak bazen halüsinasyon görüyor” diyor. “Örneğin, bir siyasetçinin kendini kadınlara adamış olduğu ama öyle olmadığı halde kendini adamış olduğu söyleniyor.” Şirketinin kendi etik standartlarını belirlediğini söylüyor.
Yalnızca “olumlu” taklitler yaratıyor; kişisel Haberlar, politikacıların seçmenlerle birlikte fotoğraf çektirdiği hologramlar veya politikacılar ve onların başarıları hakkında propaganda şarkıları. Siyasi muhaliflerin pornosunu oluşturma taleplerini reddetti. Ancak girişimci, bugün yazılımla deepfake oluşturmak için artık herhangi bir teknik bilgiye ihtiyacınız olmadığı konusunda uyarıyor. Başbakan Modi'nin hükümeti bile bahardaki seçimlerde yapay zekaya karşı uyarıda bulundu; ancak daha sonra seçim kampanyasında bizzat teknolojiyi kullandı. Hükümetin önceden uyarıda bulunmasının nedeni, ABD'li teknoloji devi Google'ın Gemini adlı yapay zeka aracının, 73 yaşındaki hükümet başkanının faşist olduğu yönündeki açıklamayı göstermesiydi.
Bununla birlikte partiler, seçim kampanyası sırasında rakiplerini sosyal ağlarda kötü göstermek ve yorum sütunlarında onları karalamak için çevrimiçi trollere ve içerik üreticilerine yatırım yaptı. Modi'nin Hindu milliyetçi partisinin bunun için en büyük bütçeye sahip olduğu bildirildi. Münih Ludwig Maximilian Üniversitesi Yapay Zeka Etiği Profesörü Sven Nyholm, demokrasiyi korumak ve geliştirmek amacıyla yapay zekayı kullanmak için yeni yasalara ihtiyaç olduğunu söylüyor.
Bu arada gelişmeler de sürüyor. Vinay Despande, Hindistan'daki siyasi iletişimin hiçbir zaman yapay zekanın kullanılmaya başlanmasından önceki gibi olmayacağını söylüyor. Polymath Synthetic Media Solutions şirketi, Kasım ayında yapılacak ABD başkanlık seçimleri öncesinde hizmetlerini Demokratlara ve Cumhuriyetçilere tanıtmaya çalışıyor.
dpa
#Konular